»In der Beratung erlebe ich es häufig, dass sich Betriebsräte und Arbeitgeber in einer Betriebsvereinbarung zu KI schnell darauf einigen, dass die angewandten KI-Systeme transparent sein sollen. Aber weder beim Betriebsrat noch beim Arbeitgeber herrscht Klarheit darüber, was genau unter Transparenz bei KI-Modellen zu verstehen ist.

Meine Empfehlung an Betriebs- und Personalräte ist, sich intern im Gremium darüber auszutauschen, was sie unter Transparenz verstehen und mit welchem Grad an Transparenz sie bei der Einführung einer Anwendung einverstanden sind. Das ist die Voraussetzung, um die richtigen Fragen an den Arbeitgeber zu stellen und um erkennen zu können, dass Arbeitgeber und Betriebsrat möglicherweise nicht das Gleiche unter dem Schlagwort Transparenz verstehen. Sich lediglich auf das Wort Transparenz zu verständigen, ohne es mit Inhalt zu füllen, halte ich keinesfalls für ausreichend. Was verstehen Betriebs- und Personalräte unter Transparenz? Welchen Transparenzgrad wünschen sie sich?

Die Definitionen in Gesetzen und Verordnungen helfen leider nicht weiter. Im EU-Entwurf zur Regulierung von KI (AI Act) ist Transparenz zurzeit so definiert, dass der Arbeitgeber die Eingangsdaten der verwendeten KI und die Hauptparameter der getroffenen Entscheidung wissen muss. Ich kann nicht sehen, wie der Arbeitgeber diesen Anforderungen nachkommen kann. Denn der Arbeitgeber weiß in der Regel nicht, wie seine Programme und Dienste, die er meist nicht selbst entwickelt hat, die Daten der Nutzer*innen verarbeiten und welche Eingangsdaten genutzt werden. Und das Unternehmen, das diese KI-Technik verkauft, hat kein oder wenig Interesse daran, darüber zu informieren.

Wie kommt die KI zu ihrer Entscheidung?

Offen bleibt die Frage, wie viel Klarheit der AI Act am Ende schaffen wird. Derzeit heißt es, dass Transparenz bedeutet, die Dinge angemessen zu verstehen und im Allgemeinen zu wissen, wie ein KI-System funktioniert. Ebenso soll ‚im Allgemeinen‘ bekannt sein, welche Daten verarbeitet werden, damit die getroffene Entscheidung erklärbar wird. Ich vermute, dass es klarer und deutlicher nur werden wird, wenn es dazu Gerichtsentscheidungen gibt. Das wird dauern. Und das ist ein Dilemma für Betriebs- und Personalräte.

Wenn sich Betriebs- und Personalräte eine Position erarbeitet haben, welche Transparenz sie wollen, was ihnen ausreicht und was sie einfordern möchten, dann können sie den Arbeitgeber konkret damit konfrontieren. Welche Trainingsdaten wurden zur Verfügung gestellt? Auf welcher Grundlage kommt die KI zu einer Entscheidung? Sucht die KI darüber hinaus im Internet und wenn ja nach welchen Suchkriterien? Werden Emotionen und Persönlichkeitseigenschaften analysiert? Wird bekannt gemacht, wenn Beschäftigte mit einer KI konfrontiert sind und zu welchem Zeitpunkt?

Ein Beispiel: Die Bank beschließt, einen Mitarbeiter nicht für eine Beförderung zu berücksichtigen. Darüber hat ein KI-Modell entschieden, auch wenn die Personalmanagerin formal gegen den KI-Vorschlag votieren könnte. Die Personalmanagerin erklärt dem Mitarbeiter, dass die Beförderung aufgrund seiner aktuellen Leistung und den Anforderungen der neuen Position nicht möglich ist. Damit hat die Managerin einen Aspekt der Entscheidung transparent gemacht. Doch wie kam die KI darauf, die Beförderung abzulehnen? Werden überhaupt alle Quellen mitgeteilt? Auf welche Quellen greift das KI-Modell zurück? Denkbar sind beispielsweise Leistungsbeurteilungen, Fähigkeiten des Mitarbeiters, Anforderungen der neuen Position, Unternehmensrichtlinien, Mitarbeiterzufriedenheitsumfragen, Berufserfahrung, Ausbildung, berufliche Situation, Familienstand, Arbeitsgeschichte.

Der Anspruch an Transparenz wäre demnach, all diese Faktoren offen zu legen, um zu klären, auf Basis welcher Parameter die KI entscheidet und wie groß die Gewichtung der einzelnen Parameter ausfällt. Damit wäre Transparenz hergestellt oder anders formuliert (und daraus erklärt sich der oben angesprochene, interne Austauschprozess): Der formulierter Transparenzanspruch wäre hergestellt.

Welche Daten werden verwendet?

Wenn das KI-System in Anwendung ist (mitbestimmt oder nicht), könnte der Betriebsrat exemplarisch einige kritisch erscheinende Entscheidungen heraussuchen. Er könnte eine exakte und abschließende Auflistung verlangen, welche Daten der Beschäftigten verwendet und mit welchen Informationen sie kombiniert wurden.

Sogenannte erklärbare und transparente KI (XAI, explainable artificial intelligence) soll Entscheidungen und Ergebnisse für die Anwender*innen besser nachvollziehbar machen, sagt das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB. Danach könne eine Erklärung beispielsweise daraus bestehen, dass die Elemente der Eingabedaten markiert werden, die den größten Einfluss auf das Ergebnis eines KI-Modells hatten. Aber auch hier gilt es, sich als Betriebs- oder Personalrat zuvor zu verständigen, was unter Transparenz zu verstehen ist. Und sich mit dem Arbeitgeber auf eine erklärbare KI zu einigen.

Aber auch ein anderer Umstand würde dem Transparenzgrundsatz entgegenkommen. Statt IT-Abteilungen in Unternehmen abzubauen, um Geld zu sparen, sollten sie beibehalten und ausgebaut werden. Von der eigenen IT-Abteilung erhalten Arbeitgeber und Betriebsrat möglicherweise Informationen, die Fremdfirmen nicht herausgeben. Das Heil scheint derzeit jedoch im Outsourcing zu liegen, ich vermute, dass das ein viel zu hoher Preis ist.

Meine Empfehlung an Betriebs- und Personalräte ist, dass sie sich selbst über ihre Ansprüche an Transparenz im Klaren werden und sich mit dem Arbeitgeber auf eine Definition verständigen sollten, die eingehalten werden kann, aber zugleich anspruchsvoll in der Erfüllung sein sollte.«