Der Kredit wurde abgelehnt? Möglicherweise die Entscheidung eines algorithmischen Systems. Der Arbeitgeber mahnt bei der Call-Center-Mitarbeiterin mehr Freundlichkeit an? Womöglich das Ergebnis einer Software, die Emotionen an der Sprache erkennt. Zumindest KI-Systeme zur Bild- und Spracherkennung, mit denen sich Emotionen von Beschäftigten ableiten lassen, sollen in der EU verboten werden.

Auf der Verbotsliste stehen ebenfalls die biometrische Gesichtserkennung und sogenannte vorausschauende Polizeiarbeit. Problematisch ist der Einsatz von KI in der Polizeiarbeit und Strafverfolgung, weil durch automatisierte Entscheidungen in der Vergangenheit bereits von Diskriminierung betroffene Personen fälschlicherweise als potenzielle Straftäter*innen identifiziert und festgehalten wurden. Außerdem müssen KI-Systeme wie ChatGPT kennzeichnen, dass die Inhalte KI-generiert sind. Die Liste verbotener KI-Praktiken soll noch erweitert werden.

Schon jetzt ist absehbar, dass vor allem zwei Punkte im geplanten EU-Gesetz zur Regulierung von Künstlicher Intelligenz für Betriebsräte und Beschäftigte hilfreich sein werden. Denn das Regelwerk zur Künstlichen Intelligenz, der »AI Act«, stellt eine Definition von KI-Systemen vor, die auch die Bundesregierung mitträgt.

Die KI-Definition

»[…] ein System, das so konzipiert ist, dass es mit Elementen der Autonomie arbeitet, und das auf der Grundlage maschineller und/oder vom Menschen erzeugter Daten und Eingaben durch maschinelles Lernen und/oder -logik und wissensgestützte Konzepte ableitet, wie eine Reihe von Zielen erreicht wird, und systemgenerierte Ergebnisse wie Inhalte (generative KI-Systeme), Vorhersagen, Empfehlungen oder Entscheidungen hervorbringt, die das Umfeld beeinflussen, mit dem die KI-Systeme interagieren.«

Diese Definition können Betriebsräte auch jetzt schon für die Einstufung einer Anwendung als KI-System nutzen. Denn häufig kommt es zu Debatten mit Arbeitgeber*innen, die mit dem Verweis, dass es sich nicht um ein KI-System handelt, die Hinzuziehung eines Sachverständigen nach § 80 Abs. 3 Betriebsverfassungsgesetz verweigern. Aber klar ist: Nur weil nicht KI draufsteht, heißt das nicht zwingend, dass keine KI drin ist.

In einem weiteren Punkt kann die EU-Regulierung für Betriebsräte und Beschäftigte nützlich sein. Sie müssen laut AI Act vor Einführung der KI-Systeme informiert werden. Allerdings kritisiert der DGB in seiner Stellungnahme von Juni 2023 zu Recht, dass diese Verpflichtungen ausschließlich für sogenannte Hochrisikosysteme gelten. Denn nach Willen des EU-Parlaments soll zwischen risikoarmer, begrenzt riskanter, zu riskanter und hochriskanter KI unterschieden werden.

Keine ernsthafte Verbesserung

Das Betriebsverfassungsgesetz regelt bereits die rechtzeitigen (!) Unterrichtungs- und Beratungsrechte bei der Planung von Arbeitsverfahren und -abläufen einschließlich des Einsatzes von KI  in § 90 Abs. 1  Nr. 3 – unabhängig von der Einschätzung, wie hoch das von der KI ausgehende Risiko ist. Der AI Act stellt somit keine ernsthafte Verbesserung für die Informationslage der Beschäftigen und Betriebsräte dar.

Der DGB ergänzt, dass die Regulierung in ihrer aktuellen Form weder praktikabel sei noch ausreichend für einen vertrauensvollen Einsatz von KI in der Arbeitswelt. Außerdem: Wer schätzt das Risiko ein und wie können Folgen eines Systems vor dessen Anwendung eingeschätzt werden? Wo verläuft die Grenze zwischen hohem und unannehmbarem Risiko eines Systems?

Schutz vor Überwachung fehlt

Eine große Leerstelle bleiben im AI Act die Rechte der Beschäftigten, vor allem der Schutz vor Überwachung durch Algorithmen. Denn das Gesetz, moniert EU-Sozialkommissar Nicolas Schmidt in einem Interview mit dem Magazin Spiegel, beschäftige sich hauptsächlich mit technologischen Risiken, nicht mit Arbeitnehmerrechten. Dem Ausspionieren von Beschäftigten müssten Grenzen gesetzt werden. Digitalplattformen kontrollierten ihre Beschäftigten mit Algorithmen und entschieden auf dieser Basis, ob sie weiterbeschäftigt würden oder nicht. Nicolas Schmidt: »Wir müssen diesem Treiben massiv und schnell Grenzen setzen.«

Die EU-Kommission hatte bereits 2021 einen Vorschlag für ein Gesetz zu KI vorgelegt. Nun, nachdem sich das EU-Parlament auf eine Position verständigt hat, können die Verhandlungen mit den EU-Mitgliedsstaaten und der Kommission über den genauen Wortlaut des Gesetzes beginnen. Wenn es gelingt, dass die KI-Verordnung noch vor der Europawahl im Juni 2024 fertig ist, würde sie wegen der Übergangsfristen von bis zu zwei Jahren erst im Juni 2026 anwendbar sein. Es wäre dennoch weltweit einzigartig, dass sich ein Staaten- und Wirtschaftsverbund wie die EU ein Gesetz zur Regulierung von KI gibt.