»Neulich recherchierte ich zu einem Sachverhalt und nutzte dafür ChatGPT. Ich machte nichts anderes, als wenn ich mit einer Suchmaschine Informationen zusammentrage. ChatGPT spricht nun mit mir. Die Maschine spricht. Und ich frage. Da ich Fragen oft mit »Bitte« beginne, fragte ich die Maschine: ‚Könntest du mir bitte …‘ Wieso bitte ich die Maschine? Ich bitte auch meine Kaffeemaschine nicht darum, mir einen Kaffee zu machen. Das ist ein Computer, ich muss nicht ‚bitte‘ sagen. Und was antwortet ChatGPT: ‚Ja, gerne.‘ Der Maschine wurden nicht nur Wörter beigebracht, sondern Kommunikationsregeln. Wozu?

Was passiert hier gerade? Mit diesem, über Jahre vorbereiteten Entwicklungsschritt wird ein neues Kapitel aufgeschlagen. Bei ChatGPT geht es nicht nur darum, den Nutzer*innen Wissen zur Verfügung zu stellen, sondern um den Aufbau einer Beziehung – die Vermenschlichung der Maschine. Um die Vermenschlichung zu optimieren, wird ChatGPT auch bald nicht mehr ChatGPT heißen, sondern einen persönlichen Namen tragen.

Für jeden Menschen gibt es dann ein persönliches Gegenüber: immer da, immer freundlich. Der Mensch wird der Maschine tiefen Einblick gewähren und dieses Gegenüber sehr private Dinge fragen – ungeachtet der Warnmeldung, die bei ChatGPT erscheint: ‚Bitte geben Sie in Ihren Gesprächen keine sensiblen Informationen preis.‘ Es ist nicht verwunderlich, dass das Thema Vereinsamung in einer hyperindividualisierten Gesellschaft zunehmend mehr Gewicht erhält.

Vorstellbar ist, dass die Schlauheit des menschlich-maschinellen Gegenübers individuell einstellbar wird – nicht sehr viel dümmer, aber auch nicht sehr viel klüger als man selbst. Zudem wird es mit Vergesslichkeit ausgestattet. ‚Fass meinen Kumpel nicht an!‘, sagen wir dann, wenn jemand unser Smartphone nimmt. Wir werden ein Team.

Die Maschine und ich werden ein Team

Ziel ist, dauerhaft eine Bindung aufzubauen um auf der Grundlage detaillierter Daten emotionsmillimetergenaue Waren anbieten zu können. Denn Microsoft will vor allem eins: Gewinn machen. Der Konzern hat nach Medienangaben 10 bis 30 Milliarden Dollar investiert und die gilt es zu vervielfachen. Und wir werden es ‚freiwillig‘ bezahlen.

Obwohl es keinen Weg zurück gibt, wünschte ich mir, dass wir diesen Weg nicht weitergehen. Wir wissen zu wenig über die Wirkung von ChatGPT. Wäre es nicht angesagt, dass wir erst untersuchen, was ChatGPT auslöst? Sollte nicht wie bei einem Medikament eine Prüfung vorangehen? Stattdessen wird Konzernen völlig freie Hand gelassen. Geert Lovink, Leiter des Institute of Network Cultures an der Hochschule von Amsterdam und Professor für Medientheorie an der European Graduate School, sagte: ‚Ich habe sehr viel mit jungen Menschen gearbeitet, um zu verstehen, warum sie nicht mehr wegkommen – was sie immer wieder reinzieht, wenn sie auf dem Telefon tippen. Wir beginnen etwa, die Taktiken der Firmen zu analysieren, die Stimmungslagen gezielt beeinflussen, damit die Jugendlichen länger online bleiben und schneller wieder zurückkommen‘ (Der Spiegel, 9. Oktober 2019).

Empfehlung für Betriebs- und Personalräte

In den Betrieben befassen wir uns mit Verhaltens- und Leistungskontrollen durch den Arbeitgeber mittels Maschinen. Das nächste Kapitel muss aber sein, dass sich Betriebs- und Personalräte mit der Verhaltenskontrolle durch Maschinen befassen und die Auswertung dieser Informationen durch Konzerne, die wir nicht kennen. Ich würde Interessenvertretungen nicht dazu raten, ChatGPT gesondert zu regeln, sondern gute Regeln zu KI zu finden. Und sie sollten sich nicht mit einer Grenzziehung zwischen starker und schwacher KI aufhalten. Diese Grenzziehung ist nicht möglich. Eine persönliche Beziehung zu einem Computer mittels ChatGPT aufzubauen, ist in meinen Augen eine starke KI, aber nicht nach der allgemeinen Definition.

Ich empfehle stattdessen, eine übergreifende KI-Vereinbarung zu treffen und das Thema Ethik aufzunehmen. Als Definition käme eine ähnliche wie diese in Frage: ‚Gegenstand dieser Verabredung sind lernende informationstechnische Systeme, die sich zur Erfüllung ihrer Aufgaben fortentwickeln, sich selbst optimieren und Probleme lösen, indem sie eigenständig Muster erkennen, Schlussfolgerungen ziehen und Entscheidungen vorbereiten oder treffen‘ (KI-Manifest der Telekom).«

Die Fakten

Das US-amerikanische Unternehmen OpenAI machte ChatGPT im November 2022 der Öffentlichkeit zugänglich. ChatGPT steht für Chat Generative Pre-trained Transformer. Der Chatbot ist in der Lage, Gedichte, Essays, Romane, Sachtexte zu generieren, Fragen beantworten und zu programmieren. Das Sprachmodell ist mit großen Datenmengen trainiert (Stand: Ende 2021). ChatGPT berechnet Wahrscheinlichkeiten: Welches Wort könnte, statistisch gesehen, als nächstes auf das vorangegangene folgen. Auf diese Weise entstehen Texte, die sich von Menschen geschriebenen nicht unterscheiden. Ursprünglich als Stiftung gestartet und mit einer Milliarde Dollar Startinvestition (u.a. von Elon Musk und Peter Thiel) ausgestattet, hält Microsoft nach Angaben verschiedener US-Medien inzwischen 49 Prozent. Im März erschien das Sprachmodell GPT-4. Es soll weniger Fehler produzieren als das Vorgängermodell und außer Texten auch Bilder und Audio als Quelle verwenden. Neben der kostenlosen Version gibt es in den USA eine kostenpflichtige Professional-Version.