Die KI die Arbeit erledigen lassen und am Ende nochmal einen Menschen zur Qualitätskontrolle drüber schauen lassen. So oder so ähnlich stellt sich wohl mancher Vorgesetzte den Einsatz von KI im Arbeitsalltag seiner Angestellten vor. Dass es so einfach nicht ist und Rahmenbetriebsvereinbarungen immer auch die Frage nach Haftung und Verantwortung klären müssen, damit beschäftigt sich Technologieberaterin Isabelle Puccini in ihrem Standpunkt.

Ich möchte euch heute von einem wirklich spannenden Beratungsfall in einem Bereich erzählen, in den auch ich mich zunächst neu einarbeiten musste: der Gaming-Branche.

Wusstet ihr, dass Deutschland ein Land der Gamer:innen ist? Einer aktuellen Studie des „Verbands der deutschen Games-Branche“ zufolge spielen hierzulande sechs von zehn Menschen im Alter von sechs bis 69 Jahren Computer- und Videospiele. Über alle Altersklassen hinweg sind das insgesamt 41,2 Millionen Menschen. Das Durchschnittsalter der Spielenden liegt bei 38,3 Jahren. Das Geschlechterverhältnis ist mit 46 Prozent spielender Frauen und etwa 54 Prozent spielender Männer verhältnismäßig ausgeglichen.

Die Gaming-Branche ist sehr schnelllebig und sieht sich derzeit durch KI nochmal mit ganz neuen Herausforderungen konfrontiert. Im konkreten Beratungsfall – von dem ich Euch nur anonymisiert berichten darf – hat sich das darin gezeigt, dass sich die Kolleg:innen des Betriebsrats bereits im Voraus viele spannende Gedanken gemacht haben, wie sie mit dem Thema KI umgehen wollen.

Auf uns zugekommen sind die Kolleg:innen, um Unterstützung bei der Verhandlung einer Rahmenbetriebsvereinbarung zur Regelung von KI zu bekommen. Das Besondere an diesem Fall ist, dass mein Kollege Nils Schlesinger und ich die Beratung im Rahmen unseres Projektes ZUKIPRO gemacht haben. Während wir in der Regel nur den Betriebsrat beraten und diesem mit unserem Sachverstand zur Seite stehen, haben wir in diesem Fall eine sozialpartnerschaftliche Beratung gemacht, bei der auch die Geschäftsführung mit am Tisch saß.

Die Geschäftsführung dieses Unternehmens steht dem Thema KI recht offen gegenüber. Sie betrachten KI als eine Zukunftstechnologie, sagen, man dürfe den Anschluss nicht verlieren, müsse die Chancen nutzen und einen verantwortungsvollen Umgang mit der Technologie finden. Gleichzeitig hat man aber auch gemerkt, dass der Geschäftsführung bewusst ist, dass das ganze Thema aus Sicht der Interessenvertretung komplexer ist, als es auf den ersten Blick scheint. Die vermeintlichen Chancen stehen den mahnenden Risiken gegenüber. Einfach, weil man in jeglichen Kreativbranchen sieht, was für Gefahren mit generativer KI einhergehen.

Innerhalb der Belegschaft des Unternehmens gibt es unterschiedliche Lager bezüglich des Einsatzes von KI. Die Storyteller, also diejenigen, die sich den Spielaufbau und dessen Handlung überlegen, lehnen den Einsatz strikt ab. Ihre Befürchtung: die Arbeit könnte ihnen komplett von der KI abgenommen werden. Die Qualität der Geschichten würde zwar leiden, aber das könnte sich für das Unternehmen immer noch rechnen. Bei den Beschäftigten, die für die Entwicklung von Charakteren zuständig sind und gestalterisch arbeiten, lautet der Tenor: Wir lehnen die Nutzung generativer KI aus moralischen und ethischen Gründen ab, da sie immer mit Urheberrechtsverletzungen einhergeht. Bei beiden Gruppen spielte immer auch das Berufsethos mit in die Ablehnung hinein: Man will keine austauschbaren KI-generierten Geschichten schreiben oder Standardcharaktere entwerfen. Dann gibt es im Unternehmen aber noch die sogenannten Tester. Diese betrachten den Einsatz von KI beim Testen von neuen Spielen als eine Chance, von der sie sich nicht zuletzt auch eine Arbeitserleichterung erhoffen.

Diese unterschiedlichen Haltungen zum Einsatz von KI hat der Betriebsrat nun versucht in einer Betriebsvereinbarung zu bündeln, mit einer Geschäftsführung als Gegenüber, die diesem Thema aufgeschlossen entgegentritt. Ein erstes Zwischenergebnis ist das „HumanTouch“-Konzept gewesen, dass als „menschliche Nachbearbeitung“ übersetzt wurde. Im konkreten Fall bedeutet das, dass immer, wenn eine KI-Anwendung zum Einsatz kommt, das Ergebnis nochmal von Hand überarbeitet werden muss. Außerdem muss – wie im Rahmen der KI EU-Verordnung, dem AI Act, vorgeschrieben – gekennzeichnet werden, dass KI benutzt worden ist.

In der weiteren Diskussion haben wir festgestellt, wie schwierig die Definition des „HumanTouch“ im konkreten Arbeitsalltag ist. Wie lässt sich sicherstellen, dass KI-generierte Inhalte nochmal von einem Menschen überarbeitet worden sind? Was macht überhaupt den menschlichen Aspekt eines kreativen Produktes aus? Ihr ahnt es vielleicht schon: unsere Überlegungen drifteten immer mehr ins philosophische ab. Irgendwann war klar, dass wir bei diesen Fragen mit den uns verfügbaren Mitteln an unsere Grenzen zu stoßen drohen. Sorry für den Cliffhanger, aber da die Betriebsvereinbarung wie gesagt noch nicht abgeschlossen ist, muss die Erzählung an dieser Stelle leider enden.

Stattdessen möchte ich noch auf die „menschliche Nachbearbeitung oder Letztentscheidung“ eingehen, einer aus gewerkschaftlicher Perspektive häufig hervorgebrachten Forderung bei der Einführung und Nutzung von KI-Systemen im Betrieb. Auch im bereits erwähnten AI Act der EU spielt das Thema eine wichtige Rolle. Doch ähnlich wie beim „HumanTouch“-Konzept bewegt sich auch die Idee der menschlichen Letztentscheidung auf einem schmalen Grat zwischen Schutzaspekt und formaler Hülle.

Es gibt viele Branchen, in denen auf die menschliche Letztentscheidung gepocht wird, wo die Realität aber zeigt, dass das schlichtweg nicht umsetzbar ist. Nehmen wir das Beispiel einer automatisierten Fallbearbeitung bei Versicherungen. Dort werden KI-Systeme eingesetzt, um zu prüfen, ob ein Schadensfall gestattet wird oder nicht. Häufig wird vom KI-System lediglich ein Vorschlag ausgegeben: sind die Voraussetzungen erfüllt, wird der Schaden reguliert, sind die Voraussetzungen nicht erfüllt, wird der Schaden nicht reguliert. Das Problem ist nur: Für die Sachbearbeiter:innen ist überhaupt nicht mehr nachvollziehbar, wie das System zu der Entscheidung gekommen ist. Vermutlich werden sie auch nicht die Zeit haben, das Ergebnis noch einmal selbstständig zu prüfen und sich gegebenenfalls dafür zu rechtfertigen, sich gegen den Vorschlag des Systems entschieden zu haben. Wie soll da das Prinzip der menschlichen Letztentscheidung funktionieren? Erst recht, wenn man den Aspekt des sogenannten automation bias berücksichtigt. Damit beschreibt die Forschung, dass Menschen KI-Systemen eine vermeintliche Objektivität zuschreiben. Das hat zur Folge, dass wir Ergebnisse von Maschinen als korrekt und neutral bewerten – und letztlich dazu neigen, eher der Entscheidung des Systems zuzustimmen.

Aus unserer Perspektive als Technologieberatung ist es daher wichtig, das Prinzip der menschlichen Letztentscheidungen nicht unwidersprochen zu akzeptieren. Wir fordern vielmehr, dass die Beschäftigten/die Menschen mit allen Ressourcen ausgestattet sein müssen, um die Entscheidung des KI-Systems plausibel nachvollziehen und bewerten zu können. Dazu gehört auch, dass es keinen Zeitdruck geben darf, um das Ergebnis des Systems zu prüfen. Genauso wie es keinen Rechtfertigungsdruck geben darf, wenn man sich anders als die Maschine entschieden hat. Etwaige Haftungs- und Verantwortungsfragen dürfen nicht auf einzelne Beschäftigte übertragen werden, sondern es muss klar sein, die Verantwortung liegt immer beim Arbeitgeber!

Um nochmal zum „HumanTouch“-Prinzip zurückzukommen: Ich denke, die Vorstellung der menschlichen Nachbearbeitung setzt zu spät an. Als Betriebsrat muss man schon bei der Auswahl der KI-Systeme involviert sein. Deshalb plädiere ich in meinen Beratungen immer für das „Human-in-Command“-Prinzip – das höchste Niveau der menschlichen Aufsicht, das vorsieht, dass der Mensch “die Möglichkeit [hat], den Gesamtbetrieb des KI-Systems zu beaufsichtigen (einschließlich seiner weiteren wirtschaftlichen, gesellschaftlichen, rechtlichen und ethischen Auswirkungen)”[1]. Der Vorteil: der Mensch besitzt das notwendige Wissen und entscheidet vor jeder Aktion, ob und wie eine KI angewendet wird und hat damit die maximale Kontrolle. Der Nachteil: das Prozedere ist langsam und lässt sich nur schwer skalieren. Die Frage ist nur: für wen ist das ein Nachteil?

[1] Quelle: https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:52019DC0168