»Es geht um den Betriebsrat im Tochterunternehmen eines hoch technisierten Konzerns, für den deutschlandweit Kundenanfragen bearbeitet werden. Weil die Anfragen nicht mehr nur übers Telefon gestellt werden, sondern die Beschäftigten auch per SMS, Brief, E-Mail oder über Messenger erreicht werden, heißen die Callcenter heute Contact Center. Das Unternehmen setzt bereits RPA-Bots (Robotoc Process Automation) ein, die automatisiert Aufgaben im Hintergrund erledigen. Nun sollen im Contact Center KI-gestützte Voicebots eingeführt werden. Diese erkennen menschliche Sprache und unterstützen so entweder bei der Auftragsbearbeitung oder führen vollkommen eigenständig ein Gespräch. Sie werden im Kundendienst eingesetzt, um Bestellungen und Reklamationen entgegenzunehmen, Gutscheine einzulösen, Auftragsstatus und Kontostände zu checken und vieles mehr.

Antwortvorschläge und Textbausteine

Unternehmen versprechen sich davon eine noch effizientere Automatisierung von Standardprozessen, eine schnellere Bearbeitung und höhere Kundenzufriedenheit, besseren Service sowie geringeren Personaleinsatz und Vorteile gegenüber IVR. Das steht für Interactive Voice Response (›Wollen Sie einen Termin vereinbaren? Dann drücken Sie die 1 oder sagen Termin. Wollen Sie einen Termin stornieren? Drücken Sie die 2 oder sagen stornieren.‹). IVR birgt das Risiko, durch unklare Menüführung und Warteschleifen die Kundschaft zu verärgern.

Dagegen sollen Voicebots die Agent*innen, wie Beschäftigte in Call- und Contact Centern genannt werden, zu besseren Entscheidungen führen und die Kundenzufriedenheit steigern. Sie verteilen Aufgaben an die zuständigen Agent*innen, schlagen Antworten vor, spielen passende Textbausteine ein und liefern Reports. Durch die Möglichkeit eines menschenähnlichen Dialogs sollen sie auch empathischer gegenüber Kund*innen wirken.

Ein Beispiel: Eine Kundin ruft beim Servicecenter an; an der soeben gelieferten Webcam sei das Ringlicht defekt. Verbunden wird sie mit einem Sprachroboter, dem sie ihr Anliegen schildert. Der Sprachroboter bedauert, dass die Webcam defekt ist und führt die Authentifizierung der Kundin durch. Danach sendet er ihr eine SMS mit einem Link. Sie soll ein Handyfoto von dem defekten Teil schicken. Schließlich stellt er sie zu einem menschlichen Kollegen durch. Das Foto wird automatisch dem Kundenticket beigefügt.

KI-Assistent ist immer dabei

Auf dem Bildschirm des Contact-Center-Agenten erscheint ein Fenster mit Antwortvorschlägen und Textbausteinen. Ist der Schaden sichtbar? Will die Kundin eine Rückerstattung oder Ersatz? Der Agent arbeitet die Anleitung Schritt für Schritt ab. Gleichzeitig hat er die sogenannte Sentimentanalyse im Blick, bei der die Stimmung der Kundin im Gesprächsverlauf algorithmisch ausgewertet wird. Zuerst wirkt sie ›negativ‹, dann wechselt ihre Stimmung von ›neutral‹ zu ›relativ positiv‹, nachdem Erstattung und Rücksendung zu ihrer Zufriedenheit erledigt sind. Am Schluss wird der Anruf automatisch protokolliert. Der Agent wurde mithilfe eines KI-Assistenten durch den gesamten Reklamationsprozess begleitet.

Welche Auswirkungen hat ein Voicebot auf die Beschäftigten?  Da ist zum einen die  Sentimentanalyse; sie wertet die Stimmung der Kundin aus und dokumentiert die Ergebnisse. Genauso ist es möglich, die Stimmung des Agenten zu analysieren und zu bewerten. KI-Systeme können, so die Versprechen der Hersteller, anhand des Tonfalls, der Sprachmuster sowie der Wortwahl auf die Emotionen der Sprechenden schließen. Wissenschaftlich ist das allerdings nicht eindeutig belegbar. Der am 12. Juli 2024 veröffentlichte AI Act sieht zudem ausdrücklich ein Verbot von der Ableitung sensibler Informationen wie Emotionen am Arbeitsplatz vor. Hier wird es rechtlicher Auslegungen bedürfen, um klarzustellen, ob die Sentimentanalyse unter das Verbot fällt.

Verhalten und Sprechfluss analysiert

Zum anderen ist es mit dieser Technologie möglich, riesige Datenmengen zu verarbeiten, Berichte zu erstellen und durch die Verknüpfung mit weiteren personenbezogenen Daten eine Vielzahl an Auswertungen zu erhalten. Damit ist eine Überwachung realisierbar, die übliche IT-Anwendungen bei Weitem übersteigt.

Bei den Voicebots kann das gesamte Gespräch mitgeschnitten, ein Transkript angefertigt sowie Quantität und Qualität der Gespräche und Verhalten der Agent*innen analysiert werden, einschließlich Auswertungen zum Sprechfluss (Wie oft hat der Agent ›ähem‹ gesagt?). Mithilfe einer KI-basierten Analyse sind gezielte und umfangreiche Auswertungen im Handumdrehen möglich. Eine Dauerüberwachung. Als würden sämtliche Vorgesetzte all ihren Beschäftigten permanent über die Schulter schauen, mitlesen und mithören. Das kann zu einer hohen psychischen Belastung führen.

Mehr Stress, weniger Autonomie

Es gibt eine Reihe weiterer möglicher Auswirkungen für Beschäftigte. So bewerten es Contact-Center-Agent*innen zwar positiv, wenn ihnen die Bots einfache Tätigkeiten abnehmen. Allerdings kann es zu Arbeitsverdichtung und Stress kommen, wenn durch den Wegfall von Routinetätigkeiten nur noch schwierige Fälle und komplexe Aufgaben zu erledigen sind. Beschäftigte befürchten zudem, dass sie selbst die kleinen Gestaltungsfreiräume in ihrer Arbeit verlieren und stattdessen zu Vorleser*innen von Textbausteinen und Antwortvorschlägen degradiert werden. Oder – im entgegengesetzten Fall – ihren Vorgesetzten über Abweichung von den Vorgaben Rede und Antwort stehen müssen.

Mehr noch: Bei der Zusammenarbeit mit der Maschine trainiert der Mensch mit seinen Antworten und seinen Methoden der Fallbearbeitung die KI. Die Daten werden dafür genutzt, Prozesse zu automatisieren (Process Mining) und womöglich einen Teil der Tätigkeiten überflüssig zu machen. Das kann Arbeitsplätze gefährden.

Mitbestimmung einfordern

Welche Hebel hat der Betriebsrat zur Verfügung, um negative Auswirkungen für die Beschäftigten zu verhindern oder abzumildern? Zuallererst ist hier § 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz zu nennen, wonach ein Betriebsrat ein Mitbestimmungsrecht hat ›bei Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen‹. Des Weiteren sollte der Betriebsrat eine Datenschutz-Folgenabschätzung nach Art. 35 der Datenschutz-Grundverordnung (DSGVO) einfordern. Am besten vor der Einführung der Voicebots und nach einigen Monaten der Anwendung erneut.

Fallen durch die Automatisierung Tätigkeiten weg oder kommen neue hinzu, ist es womöglich notwendig, Beschäftigte neu zu qualifizieren und weiterzubilden. Der Betriebsrat hat auch hier mitzubestimmen, wenn es um die Einführung von Maßnahmen der betrieblichen Berufsbildung aufgrund von geänderter Tätigkeit (§ 97 Abs. 2 BetrVG) und um die Durchführung dieser Maßnahmen (§ 98 BetrVG) geht.

Der Betriebsrat hat ebenfalls Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 7 BetrVG bei ›Regelungen über die Verhütung von Arbeitsunfällen und Berufskrankheiten sowie über den Gesundheitsschutz im Rahmen der gesetzlichen Vorschriften oder der Unfallverhütungsvorschriften‹. Er kann eine Gefährdungsbeurteilung einfordern, wobei besonders darauf zu achten ist, dass psychische Belastungen infolge von Technikstress, Arbeitsverdichtung, Autonomieverlust etc. ermittelt werden.

Nicht zuletzt der AI Act bietet mit Artikel 4 zur sogenannten AI Literacy eine Möglichkeit, allen Beschäftigten, die KI-Anwendungen betrieblich nutzen, die notwendige KI-Kompetenz zu vermitteln. Die Position des Artikels 4 direkt am Anfang der KI-Verordnung lässt darauf schließen, dass es der Gesetzgeberin ein wichtiges Anliegen ist, den Aufbau von KI-Kompetenzen voranzutreiben.

Denn Voicebots werden heute bereits in vielen Unternehmen eingesetzt und werden Arbeitsabläufe massiv beeinflussen.«

* Der Fall wurde anonymisiert.