Wie sind die gemeinsamen Regelungen KI zustande gekommen?
Als eines der führenden Technologieunternehmen entwickelt IBM weltweit digitale Anwendungen zur Unterstützung von Kund*innen bei der digitalen Transformation. Im Jahr 2019 sollte bei uns im deutschen Unternehmen selbst vermehrt KI-Komponenten in Personaldatensystemen eingesetzt werden. Zum Beispiel um Empfehlungen für die Auswahl von Bewerber*innen, für Weiterbildung, für Karriereplanung und sowie für Gehaltserhöhungen zu geben. Aus diesem Grund lag es nahe, dass wir als Betriebsrat uns diesem Thema widmen.
Wir wissen, dass KI-Systeme fehlbar sind. Das heißt konkret, dass die Ergebnisse stark von der Qualität der Daten, den zugrundeliegenden Algorithmen sowie dem Training des KI-Systems abhängig sind. KI-Systeme müssen unbedingt zum Nutzen der Belegschaft und des Unternehmens eingesetzt werden und zudem diskriminierungsfrei sein. Um mögliche Risiken zu mindern, die Sorgen aus der Belegschaft zu berücksichtigen und die Akzeptanz zu erhöhen, haben wir mit der Konzernbetriebsvereinbarung (KBV) ein verlässliches Regelwerk geschaffen.
Was sind die wichtigsten Kernelemente in eurer Vereinbarung?
Da zum Zeitpunkt der Erstellung der Vereinbarung die Thematik KI die Beschäftigten noch nicht in ihrem Arbeitsalltag betraf, ging es zunächst darum den Rahmen für den Einsatz von KI-Anwendungen möglichst frühzeitig zu regeln. Obwohl sich die Bedenken der Beschäftigten in Grenzen hielten, gab es dennoch eine allgemeine Sorge innerhalb der Belegschaft, den Entscheidungen eines vermeintlich unfehlbaren KI-Systems gegenüber machtlos zu sein. Deshalb war es uns wichtig, die Fehlbarkeit von KI-Anwendungen zu thematisieren und den Umgang mit einer Risikoklassifizierung innerhalb der Rahmenvereinbarung zu regeln.
Wie seid ihr in den Verhandlungen vorgegangen und wie verlief der Zusammenarbeit mit der Arbeitgeber*in?
Wir haben die Arbeitgeber*in zunächst deutlich gemacht, dass eine gemeinsame Rahmenvereinbarung auch in seinem Interesse ist. Bei der Einführung von weiteren KI-Systemen ermöglicht sie schnellere Verhandlungen und erhöht zudem die Akzeptanz bei den Beschäftigten, was sich u.a. positiv auf die Qualität der eingespeisten Daten auswirkt. Des Weiteren hat der Konzernbetriebsrat der Arbeitgeber*in angeboten Betriebsräten interessierter Kund*innen von IBM-KI-Produkten die KBV vorzustellen und mit ihnen zu diskutieren. Unter diesen Aspekten sichert sich IBM einen Wettbewerbsvorteil und eine Vorreiterrolle gegenüber anderen Anbieter*innen der Branche.
Die Vereinbarung klassifiziert KI-Anwendungen nach Risiken für Beschäftigten. Warum ist diese Klassifizierung wichtig und wie funktioniert das genau?
Wir hatten bereits Erfahrung mit einer Rahmenbetriebsvereinbarung zu herkömmlichen IT-Systemen mit einer Einstufung nach Relevanz und „Gefährlichkeit“ gemacht. Solch ein Einstufungssystem bietet uns die Möglichkeit unsere Verhandlungsstärke dort einzusetzen, wo die Beschäftigten durch Regeln sorgfältig geschützt werden müssen. Wir haben uns nach langer Diskussion nicht nur auf eine Einstufung von KI-Systemen nach Gefährdungsgrad für Beschäftigte geeinigt, sondern auch Chancen in diese Betrachtung mit einbezogen. Um die Klassifizierung zu entwickeln und ihre Wirksamkeit zu testen, haben wir unterschiedliche Anwendungsbereiche für KI-Systeme, deren Einsatz zum Teil noch nicht in Betracht gezogen wurde, gedanklich durchgespielt, und die darin enthaltenen Chancen und Risiken abgewogen.
Die Art der Klassifizierung hängt auch davon ab, wer Einsicht in die Ergebnisse des KI-Systems erhält. Wenn Beschäftigte von einem KI-System Unterstützungsvorschläge erhalten, die sie völlig frei annehmen oder ablehnen können, empfanden wir das als relativ unbedenklich. Etwas kritischer sehen wir KI-Systeme, die andere Personen (z. B. Vorgesetzte) über diese Vorschläge informieren, da dies die Entscheidungsfreiheit des Beschäftigten einschränken kann.
Eine Stufe höher klassifizieren wir KI-Systeme, die Vorschläge für Entscheidungen machen, die sich direkt auf das Arbeitsumfeld oder die Karriere der Beschäftigten auswirken. Haben die Vorschläge des KI-Systems direkte wirtschaftliche Auswirkungen für die Beschäftigten, fällt das System in die höchste Stufe der Kategorie. Mit diesem Kategorisierungsschema orientieren wir uns an der vorgeschlagenen Struktur des Enquete-Kommission des Bundestages. Diese Art der Kategorisierung wird aktuell auch in gewerkschaftlichen Debatten zu KI sinnvoll erachtet.
Wie setzt sich der von euch gegründete Ethikrat zusammen und was macht er genau? Welche Bedeutung haben Fachleute „von außen“?
Da sich bei der Einführung von KI-Systemen neue Fragestellungen ergeben und auch die Rahmenvereinbarung stetig weiterentwickelt werden muss, haben wir einen Ethikrat gegründet. Er ist Teil eines Regulierungszirkels, der dafür zuständig ist, auf die Einwände von Beschäftigten einzugehen, sowie Empfehlungen der KI-Systeme zu prüfen und gegebenenfalls zu korrigieren.
Auch für die Personalabteilung und den Betriebsräten bietet der Ethik-Rat fachliche Beratung. In einem globalen Geschäft, in dem die meisten KI-Systeme nicht im Inland entwickelt werden, ist es besonders wichtig, dass Menschen vor Ort weitreichenden Einfluss auf diese KI-Systeme haben können.
Der Ethik-Rat bestehen aus drei IBM KI-Expert*innen, (die u.a. auch die Enquete-Kommission des Bundestages und das Deutsche Institut für Normung beraten), sowie den Verhandlungsführer*innen der Arbeitgeber*innen und des Konzernbetriebsrats, der Konzernschwerbehindertenvertretung und eines koordinierenden Sprechers. Im Rahmen der geplanten Weiterentwicklung des Ethik-Rats denken wir auch über die Integration von Fachleuten von außen nach, die zusätzliche Impulse geben werden.
Was habt ihr aus dem Prozess Besonderes gelernt? Was würdet ihr heute anders machen?
Die Art des Verhandlungsprozesses mit offener Diskussion und Lösungsfindung empfiehlt sich auch für weitere Themen. Zum jetzigen Zeitpunkt sind wir mit den Ergebnissen weiter zufrieden und würden wenig ändern – wobei die Weiterentwicklung des Prozesses ohnehin geplant war.
Welche KI-gestützten Tools werden in IBM bereits eingesetzt? Gibt es Anwendungen, die ihr aufgrund des Stufenplans bereits nicht eingeführt habt oder die von Arbeitgeber*in/IBM USA zurückgezogen wurden?
IBM setzt schon KI-Systeme im Bereich von internen Call-Centern und bei der Empfehlung von Weiterbildungsangeboten und möglichen Karrierepfaden ein. Ein weltweites System zur Empfehlung von Gehaltserhöhungen für Führungskräfte haben wir in Deutschland bislang nicht eingesetzt. Ebenso wenig ein System, das die Wahrscheinlichkeit von Eigenkündigungen ermitteln soll. Grundsätzlich betrachten wir KI-Systeme, die Menschen einschätzen und bewerten, deutlich kritischer als KI-Systeme zur Optimierung von Arbeitsabläufen.
Inwiefern hilft die KBV, die Arbeitgeber*in „präventiv“ von ungeeigneten oder bedenklichen Anwendungen abzuhalten?
Die KBV hilft nicht unbedingt dabei, weltweite Entwicklungsteams von der Erstellung von KI-Systemen abzuhalten. Sie hilft uns aber sehr dabei, die Einführung für deutsche Mitarbeiter*innen zu kontrollieren und zu regeln.
Welche Tipps hast du für andere Betriebsräte – in weniger IT orientierten Branchen?
Betriebsräte kleinerer, weniger IT orientierter Unternehmen sollten sich extern beraten lassen. Zwar bietet das Internet nahezu unerschöpfliche Menge an Informationen, jedoch sind diese oft unübersichtlich. Durch das Betriebsrätemodernisierungsgesetz ist die Finanzierung von externen Beratungen zum Thema KI einfacher geworden. Am besten lässt man sich beraten, fängt „klein“ an und strebt einen Rahmenvertrag an, der eine Basis regelt. Mit mehr Erfahrung kann dieser weiterentwickelt werden. Themen können z.B. eine klare Beschreibung des Zwecks, die Sicherstellung der Daten- oder Algorithmusqualität, Nichtdiskriminierung, Transparenz, Erklärbarkeit der Systeme und die Priorität menschlicher Entscheidungen sowie Widerspruchsmöglichkeiten sein. Außerdem könnten auch andere Betriebsratsgremien mit mehr Erfahrung in diesem Bereich in gewissem Rahmen mit Rat zur Seite stehen.
Vielen Dank für das Interview, Frank.
