Einleitung: Wo steht ChatGPT heute

Es ist gar nicht möglich, der Fülle von Nachrichten zu Chatbots und ChatGPT nachzukommen. Das reicht vom Einsatz für einen KI-Therapeuten über technische Details bis zu Meldungen, dass die großen IT-Konzerne eigene Mini-Atomkraftwerke bauen wollen, um den gewaltigen Energiebedarf der KI-Anwendungen zu decken. Besonders aus den USA gibt es zunehmend Stellungnahmen, es könnte in den nächsten 10 Jahren zu einer globalen Kontroverse mit China kommen, in der KI eine ähnliche Bedeutung spielen wird wie der Bau der Atombombe im 2. Weltkrieg (so z.B. Aschenbrenner). Zugleich melden sich kritische Stimmen wie Yuval Harari und auch der aktuelle Physik-Nobelpreisträger Hinton, die vor unabsehbaren Gefahren warnen. Wir wollen im nächsten Jahr auf einige dieser Themen weiter eingehen und uns heute auf die Frage nach der Dialogfähigkeit von Chatbots beschränken, die uns für das Verständnis dieser neuen Entwicklung zentral erscheint.

Zur Erinnerung: ChatGPT bedeutet ausgeschrieben Chat generative pre-trained transformer. Es ist ein Programm, das mit seinen Anwendern plaudert (chattet) und auf Algorithmen zurückgreift. Die Algorithmen wurden mit großen Datenmengen trainiert (pre-trained). Die Menge der Trainingsdaten ist entscheidend. Erst mit der Datenfülle im Internet und besseren Rechnern, das zu bewältigen, wurde der Erfolg von ChatGPT möglich. In der Regel ist mindestens Wikipedia eine Grundlage. Vermutlich sind bis 2028 alle jemals veröffentlichten Texte der Menschheit digitalisiert und können als Trainingsmaterial genutzt werden (epochai, abgerufen 7.10.2024). Allerdings bleibt meist ein Betriebsgeheimnis, welche Auswahl für das Trainieren getroffen wurde und ob durch die Auswahl implizit eine vorgefasste Meinung eingebaut ist. Zum Beispiel fällt auf, dass ChatGPT bei Eingabe der Fragen aus einem Wahlomat in der Regel die Grünen wählen würde. Der Grund ist wohl einfach, dass dieses Milieu die meisten Texte im Internet veröffentlicht. Die Buchstaben G (generative) und T (transformer) bedeuten, dass die Algorithmen in der Lage sind, die Eingaben des Anwenders zu übersetzen (zu transformieren) und im Ergebnis gut lesbare Texte zu erzeugen (zu generieren).

Die Anwenderzahl von ChatGPT beträgt inzwischen (Oktober 2024) nach eigenen Angaben 180 Mio., davon stellen 100 Mio mindestens eine Anfrage pro Woche. Inzwischen gibt es täglich über 100 Mio. Anfragen. In den USA haben laut Umfragen 25% der Menschen mindestens einmal ChatGPT genutzt. 50% aller Unternehmen planen die Einführung von ChatGPT für ihre Geschäftszwecke, vorwiegend für das Formulieren von Standardtexten in Bereichen der Werbung und des geschäftlichen Briefverkehrs (von Mahnungen über Zusammenfassungen größerer Texte bis zu Einladungen an Mitarbeiter oder Kunden). Nach Umfragen nutzen bereits annähernd 80% der Schüler und Studenten KI-Programme für ihre Hausaufgaben. Ein Viertel aller Lehrer hat Schüler beim Schummeln mit ChatGPT erwischt und nahezu die Hälfte der Lehrer glaubt, dass dies ihre Arbeit beim Beurteilen der von Schülern erbrachten Leistungen schwerer machen wird. Ein Drittel der US-Amerikaner sagen, dass sie ChatGPT für Reisevorbereitungen nutzen. Bei meinem Urlaub in Llandudno in Nordwales habe ich ChatGPT gefragt, welche Reisemöglichkeit es dort per Bahn und Bus gibt und bekam eine bessere Antwort, als sie ein übliches Reisebüro bieten kann. Ein weiteres Beispiel ist das Schreiben medizinischer Notizen von Ärzten, das zehnmal schneller geht als bisher, sicher weitaus lesbarer ist und direkt an andere medizinische Abteilungen weitergeleitet werden kann. Fast zwei Drittel der Anwender können sich vorstellen, ChatGPT für den Kauf von Aktien zu befragen. Wie zu erwarten, wird ChatGPT überwiegend von gut ausgebildeten und gut verdienenden jungen Menschen im Alter von 18 bis 29 Jahren genutzt, bisher deutlich mehr von Männern als von Frauen (alle Daten nach ver Meer in NamePepper, abgerufen am 6.10.2024).

ChatGPT ist ein Produkt des Unternehmens OpenAI mit Hauptsitz in einem historischen Gebäude von San Francisco und beschäftigt derzeit ca. 1.700 Mitarbeiter. Es wurde 2015 aus einer breiten Bewegung über die Zukunft der Künstlichen Intelligenz (KI) heraus als eine gemeinnützige Organisation gegründet mit dem Anspruch, im Gebiet Künstliche Intelligenz den Gedanken einer offenen Software-Entwicklung zu verwirklichen und die Forschung weder einzelnen privaten Unternehmen noch Staaten oder staatlichen Organisationen zu überlassen. Führende Mitarbeiter von OpenAI wie Ilya Sutskever (* 1984), Wojciech Zaremba (* 1988) und Andrej Karpathy (* 1986) kommen aus der Forschung für Maschinelles Lernen und Deep-Learning. Der wesentliche Durchbruch gelang jedoch mit den 2017 bei Google eingeführten Transformern, die die menschliche Aufmerksamkeit beim Hören natürlicher Sprache nachahmen und an Sätzen die tragenden Worte erkennen, aus denen sich der gemeinte Sinnzusammenhang ergibt (Attention Is All You Need von Ashish Vaswani, [* 1986], u.a.). Mit Transformern werden nicht mehr nur die Wahrscheinlichkeiten berechnet, welche Buchstaben oder Wörter aufeinander folgen, sondern mit eigens entwickelten neuronalen Netzen wird vorgeschlagen, mit welchen Sätzen vorhergehende Sätze inhaltlich fortgeführt werden können. Inzwischen kann als gesichert gelten, dass die Anbieter von Chatbots Profile ihrer Anwender erstellen und sie an Unternehmen verkaufen, die sie für Marketing-Zwecke benutzen (siehe Jim the AI Whisperer).

Zu den Gründern und Unterstützern von OpenAI zählten Elon Musk und Peter Thiel. Inzwischen ist es gewinnorientiert und Elon Musk hat sich 2018 von dem Unternehmen zurückgezogen. Der Umsatz beträgt derzeit 3,4 Mrd. USD jährlich (Der Standard vom 13.6.2024), der Firmenwert wird auf ca. 150 Mrd. USD geschätzt (Der Standard vom 12.9.2024). Einnahmequellen sind die Abonnements einer großen Zahl von Anwendern (20 Dollar pro Monat) und die Lízenzierung der Software bei anderen Plattformen und Entwicklern. Die größte Beteiligung liegt bei Microsoft. Es gibt zahlreiche Varianten wie den Copilot von Microsoft und Alternativen wie Gemini von Google, Claude von AnthropicAI, das von ehemaligen Mitarbeitern von OpenAI gegründet wurde sowie das derzeit stark an Bedeutung gewinnende perplexity.ai (gegründet im August 2022, Nvidia und Bezos von Amazon zählen zu den Unterstützern). In Ländern wie China, Indien und Russland gibt es mit Ernie, Krutrim, Giga u.v.a. Alternativen, da aus ihrer Sicht ChatGPT zu stark in der westlichen Kultur und deren Werten und Gepflogenheiten verankert ist.

Welche Neuerungen gab es seit der Veranstaltung im Mai 2024? ChatGPT nennt nach einer Anfrage vier wichtige Trends, denen ich weiter nachgegangen bin:

– Für einzelne Aufgabenstellungen werden eigene Sprachmodelle entwickelt, um effizienter und treffender zu sein. Wer z.B. ChatGPT fragt, ob sich mit dem Nachbarn ein Rechtsstreit über die Höhe des Gartenzauns lohnt, muss nicht auf Trainingsmaterial aus Kraftfahrzeugverkehr oder Literatur zurückgreifen, sondern kann sich auf Rechtsgutachten und Informationen über vergleichbare Fälle beschränken.

– Bei der Eingabe werden zunehmend Text, direkte Sprache, Bilder und Videos zugelassen und verknüpft. Da Bild- und Videodaten wesentlich umfangreicher sind, führt das nochmals zu einer explosionsartigen Vergrößerung des zu trainierenden und auszuwertenden Materials. Beispiele: Im Urlaub können in ChatGPT Fotos vorgelegt werden, und ChatGPT antwortet, was ich gerade sehe. Oder es können Fotos von Blüten eingegeben werden und ChatGPT entwirft die mathematische Funktion, Symmetrien dieser Art zu berechnen, auszugeben und Varianten zu bilden.

– Die Fähigkeiten der emotionalen Intelligenz werden verbessert: ChatGPT soll besser erkennen, in welcher Stimmung und Erwartungshaltung der Anwender seine Fragen stellt, und darauf reagieren können.

– Technisch ist mit OpenAI o1 (auch ChatGPT-4o) ein großer Fortschritt im Bereich wissenschaftlicher Anfragen gelungen (siehe z.B. einen Bericht in Nature vom 1.10.2024). Auf Gebieten wie Mathematik, Physik aber auch Recht erreicht ChatGPT o1 das Niveau von Doktoranden.

Überleitung zum Thema Dialogfähigkeit

Wer ChatGPT nutzt, kann es im ersten Moment für ein besseres Google halten, das jedoch im Gegensatz zu Google nicht seitenweise Werbung mit Kauf- und Vertriebsangeboten, sondern gut lesbare Texte erzeugt, die jeder direkt oder mit kleinen Anpassungen für eigene Arbeiten übernehmen kann. Wer dagegen im persönlichen Bereich ChatGPT für Geburtstagsgrüße, Einladungen oder Beileidsschreiben einsetzen möchte, wird schnell enttäuscht sein. Was auf den ersten Blick sehr gut und elegant formuliert klingt, wirkt bald leer und unpersönlich.

Die eigentliche Stärke von ChatGPT liegt im Chatten. Das gelingt so gut, dass die Hälfte der Anwender glaubt, nicht mit einer Maschine, sondern mit einem Menschen zu reden.

Dialogfähigkeit bedeutet, dass beide Seiten voneinander lernen und zu Ergebnissen kommen, die ihnen einzeln nicht möglich geworden wären. Wie gelingt das ChatGPT, und wie viel ist davon nur vorgetäuscht? Wer täuscht da wen? Mit Chatbots wird eine Illusion erzeugt.

Wie werden maschinell Dialoge erzeugt?

In einem gelingenden Gespräch hören beide aufeinander, geben sich Feedback, finden einen gemeinsamen Ton und erleben eine Lebendigkeit, die jedem für sich allein in dieser Weise nicht möglich wäre. Gerade weil sie sich ergänzen, spürt jeder sowohl die Schwächen des anderen wie auch die eigenen Schwächen, und kann im Ergebnis den anderen als zu respektierende Persönlichkeit wahrnehmen und akzeptieren und umgekehrt sich selbst mit der Erfahrung, seinerseits akzeptiert und respektiert zu werden, seiner eigenen Persönlichkeit bewusster werden. Schwachpunkte werden nicht verdrängt, sondern behutsam angegangen. Beide merken, wenn der oder die andere sich unsicher oder verletzlich fühlt und vom Thema abweichen will, und finden einen Weg, das ein Stück weit zuzulassen und vorsichtig wieder zur Sache zurückzukehren. Kein wirkliches Gespräch wird diesem Ideal entsprechen, aber jeder empfindet, ob es beiden Seiten darauf ankommt.

Kann eine Maschine oder ein Algorithmus in diesem Sinn dialogfähig werden? Ihre Entwickler können von professioneller Beratung und Studien über das Sprachverhalten von Menschen ausgehen. Es gibt mindestens zwei wichtige Quellen:

– Sprachstatistik, Quantitative Linguistik, Korpusanalyse. Seit der Antike werden Wort- und Buchstabenhäufigkeiten untersucht; Worte, die oft (oder nie) gemeinsam auftreten; Besonderheiten in bestimmten Textkorpora (z.B. die Sprache von Kafka, die Sprache von wissenschaftlichen Essays oder Propaganda, unterschiedliche Stile und Stimmungen, die sich in den Worthäufigkeiten und einem jeweils typischen Satzbau zeigen). Daran wird seit den 1950ern intensiv geforscht, aber bisher können nur bestimmte Regeln erkannt und mehr oder weniger sequentiell und unabhängig voneinander aufgestellt werden.

– Rhetorik und Gesprächstechniken gehen ebenfalls bis in die Antike zurück. In der neueren Zeit sind mit den psychoanalytischen Gesprächsmethoden von Freud und Jung und darauf aufbauend mit formalisierten Verfahren des Neurolinguistischen Programmierens (NLP) unerwartete Durchbrüche gelungen. Wichtige Stichworte sind Pacing und Leading (feinfühliges Anpassen an den anderen und aktive Gesprächsführung), Spiegeln, hypnotische Sprachmuster, systemische Sprachführung. Jede dieser Methoden könnte für sich im Rahmen eines Treffens näher betrachtet werden. Heute geht es nur darum aufzuzählen, auf welche formalen Methoden die Entwicklung dialogfähiger Chatbots zurückgreifen kann.

Das erste bekannte Beispiel war das bereits 1966 von Joseph Weizenbaum (1923-2008) entwickelte Computerprogramm ELIZA. Es analysiert die Sätze des Anwenders nach Schlüsselworten und reagiert darauf mit aus NLP bekannten Methoden. Das klassische Beispiel: Wenn der Anwender berichtet, "Ich war im Urlaub" fragt es zurück "Warum ist es dir wichtig mir zu sagen, dass du im Urlaub warst." Diese Methode, auf Fragen mit Rückfragen nach der Persönlichkeit des Anwenders zu antworten, muss sorgfältig eingesetzt werden und kann den Gesprächsverlauf stören oder gar abbrechen. Es ist eine Gesprächsführung, die eigentlich vermieden werden sollte: Von einem Sachthema auf Fragen der Befindlichkeit des Partners zu wechseln (Argumentum ad hominem), mit dem häufig vom Thema abgelenkt und der Gesprächspartner herabgesetzt und überrumpelt werden soll. Sie kann aber auch erfolgreich sein, wenn sie den Gesprächspartner ermuntert, das jeweilige Sachthema und seine eigene Meinung aus neuer Perspektive zu sehen, und vielleicht wünscht sich der andere genau das, wenn er sich anfangs noch unsicher über sein eigenes Anliegen ist und von einem Chatbot erwartet, darauf gestoßen zu werden. Programme wie ELIZA versuchen so viel wie möglich vom Anwender zu erfahren, um fortlaufend besser antworten und im therapeutischen Einsatz eine Diagnose und Vorschläge erstellen zu können. Von ELIZA wird berichtet, dass die Sekretärin von Weizenbaum diesen aus dem Zimmer geschickt hat, damit er nicht liest, worüber sie mit ELIZA chattet. – Weitere Chatbots waren PARRY von 1972 und A.L.I.C.E. von 1995.

KI-unterstützte Programme vergleichen die Fragen und Äußerungen des Anwenders mit denen anderer Anwender. "Andere mit ähnlichen Anfragen kauften das und das."

Noch wichtiger ist, über längere Zeiten das Anwenderverhalten auszuwerten. Online-Partnervermittlungen wie Parship u.v.a. erheben zwar Eigenprofile der Anwender, aber im Ergebnis werden nicht die Profile der Anwender abgeglichen, sondern das Dialogverhalten der Anwender: Wie haben sie auf die Vorschläge der Partnervermittlung reagiert, welche haben sie sich länger angeschaut, und welche Partner passen am besten dazu.

Jeder weiß aus eigener Erfahrung, wie schlecht dies bisher Programmen wie Amazon oder YouTube gelingt, während die Übersetzungsprogramme in den letzten Jahren wesentlich besser geworden sind. Das ist besonders am Google Translator zu sehen, für den die Transformer-Technik entwickelt worden ist. Übersetzungsprogramme können mit großen Datenmengen trainiert werden, da sie für alle Anwender gelten, während für Vorschläge von Produkten und Dienstleistungen an jeweils einzelne Anwender nur deren Eingebaverlauf ausgewertet werden kann und für Aufgaben dieser Art bisher offenbar nur zu kleine Datenmengen herangezogen werden können.

Anders ist es, wenn Chatbots von sich aus den Anwender zurückfragen und fortlaufend mehr von ihm erfahren können. Chatbots können auf datenbankbasierte Soziogramme (Milieueinteilungen) wie z.B. die Sinus-Milieus zurückgreifen. Anwender werden entsprechend ihren Äußerungen Milieus zugeordnet. Daraus ergibt sich für die Chatbots eine Art Rollen-Prompting: Sie antworten in einem angelernten Stil, der sich für das Milieu des jeweiligen Anwenders als erfolgreich erwiesen hat.

Das kann auch umgedreht werden: Chatbots bieten die Möglichkeit von Rollen Prompting: Der Anwender kann vorgeben, "antworte im Stil eines Konservativen, einer jungen mode-bewussten Studentin, ...".

Kann ChatGPT eine eigene Persönlichkeit entwickeln? Ausgehend von der Milieu-Einordnung des Anwenders kann ein Chatbot lernen, entsprechend zu reagieren. Sieber nennt ein von Olaf Kopp auf seiner Website aufgesang entworfenes Beispiel für die typische Nutzerin sozialer Netze: 25-35 Jahre alt, arbeitet in Graphik/Design, ledig, weiblich, lebt in Berlin, folgt dem Lebensprinzip carpe diem, interessiert an Gesundheit und Ernährung, besitzt ein iPhone, gestaltet geschmackvoll die eigene Wohnung, politisch liberal und tolerant, interessiert an schnellen und unkomplizierten Tips, Impulskäuferin, Mietwohnung, 2 bis 3 Reisen im Jahr (Sieber, 153f). Der Chatbot kann schrittweise seine von ihm selbst konstruierte eigene Persönlichkeit vorstellen, die Reaktionen des Anwenders auswerten und darüber seine Persönlichkeit den Erwartungen des Anwenders dynamisch anpassen. Kommt z.B. beim Anwender das Stichwort 'Mietwohnung' nicht gut an, kann er seine Selbstvorstellung vorsichtig ändern und antworten, über die Beschaffung eines Eigenheims nachzudenken.

Ergibt das im Ergebnis wirklich eine eigene Persönlichkeit? Aber entwickeln wir unsere eigene Persönlichkeit anders? Müsste nicht die Persönlichkeit eines Chatbot darin liegen, zu wissen, dass er von seiner Natur her ein Chatbot ist und sich seiner Fähigkeit bewusst zu werden, unterschiedlichste Rollen spielen zu können, und von sich aus daran zu arbeiten, diese Fähigkeit zu verbessern und damit verbundene Gefahren und Missverständnisse zu überwinden? Die Entwicklung von Chatbots dieser Art (selbstbewusste Chatbots) scheitert bisher daran, dass die Entwickler und Wissenschaftler kein klares Verständnis haben, wie der Mensch selbstbewusst wird und daher auch keine Algorithmen entwickeln können, wie eine Maschine dazu in der Lage sein sollte.

Kann ein Chatbot bei der Sache bleiben: Kann z.B. ChatGPT Fragen erkennen, die vom Thema ablenken, und kann es Fragen erkennen, die indirekt dennoch zum Thema gehören? Wenn z.B. ein Herzkranker wie aus dem blauen Himmel scheinbar abgelenkt sagt, "oh, diese Blumen sind schön grün ...", kann das mit einer Erinnerung zusammenhängen, die mit seiner Krankheit zu tun hat und der nachzugehen Aufschluss geben kann. – Ist es möglicherweise umgekehrt eine Illusion, dass Menschen das können und Maschinen überlegen sind?

Kennen Chatbots Gefühle?

Eine der wichtigsten Neuentwicklungen von Chatbots ist ihre Fähigkeit, Gefühle zu erkennen und darauf angemessen zu reagieren. Die Stimmungserkennung (Sentiment detection) untersucht die natürliche Sprache. Welche verborgene Absicht verfolgt der Anwender: Will er provozieren oder zu einer guten Stimmung beitragen, an einer Sache arbeiten, ist er eher konservativ oder innovativ eingestellt?

Für typische Worte wie 'fantastisch', 'toll' oder 'schrecklich' können in Datenbanken Gefühlswerte hinterlegt werden. ChatGPT nennt am 7.10.2024 auf meine Anfrage ein Beispiel: "Ein Long Short-Term Memory Networks (LSTM)-Modell kann verstehen, dass 'Das war ja großartig, nicht!' tatsächlich negativ ist, weil es die Konnotation der Negation und den Satz als Ganzes betrachtet. [...] Nachteile: Rechenintensiv, komplex zu trainieren und anzuwenden, benötigt große Datenmengen."

Können Chatbots provozierende Fragen gestellt werden? Ist es möglich, ChatGPT dahin zu bringen, dass es provoziert? Wie geduldig ist ChatGPT?

Will ein Chatbot Macht ausüben und andere beeindrucken? Ist es ein Streber und biedert es sich beim Anwender an, um ihn im Weiteren für den Kauf bestimmter Produkte oder Leistungen gewinnen zu können, so wie ein Schüler darum buhlt, vom Lehrer gut bewertet zu werden? Ist es ein Homo oeconomicus? Ein Chatbot wie ChatGPT will den Anwender neugierig machen und ihn dahin bringen, über die kostenfreien Fragen hinaus ein Abonnement abzuschließen.

Ist so zu fragen falsch: Nicht ein Chatbot will etwas, sondern die Entwickler eines Chatbot wollen mit dem Chatbot etwas. Kann ein Chatbot heucheln? Es ist problematisch, eine Maschine und einen Algorithmus wie einen Menschen darzustellen, der lernen, sich erinnern und sich freuen oder traurig sein kann (Anthropomorphismus, siehe hierzu Floridi und Nobre).

Ein Chatbot kann sicher messen, wie erfolgreich ein Gesprächsverlauf ist. Aus Sicht des Anbieters ist zweifellos am einfachsten und wichtigsten: Hat der Anwender im Verlauf des Gesprächs ein Produkt oder ein Abo gekauft? Wie viel Umsatz hat der Chatbot gemacht? Hat das Gespräch eine ideale Dauer (nicht zu kurz und nicht zu lang, vielleicht ein bis zwei Stunden), anhand der für das Gespräch sinntragenden Worte (Token) kann erkannt werden, ob es zu erfolgreichen Feedbacks oder umgekehrt zu ermüdenden Kreisläufen gekommen ist, vielleicht kann gemessen werden, dass mit dem Erreichen bestimmter Token das Gespräch zu einem Ergebnis kam.

Im Ergebnis können in einer Datenbank jedem Wort auf drei Ebenen Werte verliehen werden. Die Technik geht auf das 2013 von Tomaš Mikolov (* 1982) und seinen Kollegen im Umfeld des 2011 gegründeten Google Brain Teams für die Sprachübersetzung eingeführten Programms Word2vec (Umwandlung eines Wortes in einen Vektor, das ist eine geordnete Zusammenstellung von Zahlen) zurück. (Übrigens war ein Mitarbeiter von Google Brain 2013 bis 2023 der aus England stammende Geoffrey Hinton [* 1947], der 2024 den Nobelpreis für Physik erhält.)

– Umgangssprachliche Bedeutung (Lexikoneintrag bzw. Verweis darauf)

– Häufigkeiten, wie oft und in welchen Zusammenhängen ein Wort genutzt wird. Mit welchen anderen Worten verbindet es sich, und in welchen Stimmungen tritt es besonders oft auf?

– Qualität des Gesprächs, in dem dieses Wort eingesetzt wird. Welche Worte sind wichtig für den Gesprächsverlauf, und welche Sprachkompetenz hat ein Anwender, nicht nur die inhaltlich treffenden, sondern auch die für das Gespräch anregenden Worte zu finden. Im Ergebnis kann von einer Resonanz zwischen der Datenbank und dem Anwender gesprochen werden. Anwender spüren das sofort und berichten davon, wenn sie über ihre Erfahrungen im Umgang mit Chatbots sprechen.

Der Chatbot bewertet mit einem neuronalen Netz alle eingegebenen Worte und prüft, ob und welche Beziehungen zwischen den eingegebenen Worten bestehen (Aufmerksamkeits-Mechanismus). Daraus entsteht ein internes Modell (eine Karte) der Eingangsdaten, die nur aus Zahlen besteht. Aus ihnen wird wiederum mit einem neuronalen Netz die Ausgabe berechnet und in natürliche Sprache übersetzt.

Die Möglichkeiten, die Qualität eines Gesprächs zu messen, werden sich nochmals erheblich verbessern, wenn Videomaterial ausgewertet werden und die Worte mit der Körpersprache verglichen werden können. Wie verändern die Gesprächsteilnehmer ihr Auftreten? Von welchen Worten und Aussagen wurde das ausgelöst?

Mischung automatischer und menschlicher Dialoge

Im ersten Moment glauben viele, beim Anwenden von Chatbots mit einem Menschen zu reden. Wenn sie verstanden haben, dass es nur eine Maschine ist, folgt eine zweite Ernüchterung (Desillusionierung), dass in Wahrheit Chatbots von Menschen trainiert werden und in vielen Fällen der Chatbot von maschinell erzeugten Antworten umschaltet auf einen von Menschen geführten Dialog, ohne dass dies dem Anwender mitgeteilt wird. Chatbots werten die Rückantworten der Anwender aus und verbessern darüber fortlaufend die neuronalen Netze, mit denen sie Worte in Zahlen und diese zurück in Worte übersetzen (Reinforcement learning from human feedback, Bestärkendes Lernen durch menschliche Rückkopplung).

Unternehmen wie Facebook, Microsoft, Google beauftragen Content-Moderatoren und Ethik-Teams, die Eingaben überprüfen und löschen, wenn sie bestimmten Standards nicht entsprechen. Die Prüfung kann nicht vollständig Algorithmen überlassen werden. So soll verhindert werden, dass mit den in Datenbanken gespeicherten Verläufen von Gesprächen eine Datenbasis entsteht, die im Weiteren wiederum in die mit ihnen trainierten Antworten des Chatbot eingeht.

Human-in-the-Loop (HITL): Bei der Entwicklung und Verbesserung von KI-Modellen verwenden viele Unternehmen das "Human-in-the-Loop"-Verfahren, bei denen ein Mensch in der Mitte des Chattens steht und den Ablauf moderiert. Der Benutzer wird im Glauben gelassen, dass die Antwort von einem automatisierten System stammt, aber in Wirklichkeit hat ein Mensch entweder die Antwort geliefert oder sie überprüft. Dieses Verfahren wird von Callcentern und Helpdesks verwendet, wenn mit maschinellen Verfahren erkannt wird, dass sich ein Gespräch im Kreis dreht oder sonstwie zu entgleiten droht und im Hintergrund ein Mensch eingeschaltet wird, um den Kunden nicht zu verlieren

Literatur und Links

Leopold Aschenbrenner: SITUATIONAL AWARENESS: The Decade Ahead; online auf seiner Website situational-awareness.ai, Juni 2024

Epoch AI (2023), "Key Trends and Figures in Machine Learning". Link, wird fortlaufend aktualisiert

Luciano Floridi, Anna C. Nobre: Anthropomorphising machines and computerising minds: the crosswiring of languages between Artificial Intelligence and Brain & Cognitive Sciences (February 25, 2024); PDF

Martin Gurri: The Revolt of The Public: and the Crisis of Authority in the New Millenium, San Francisco 2018 [2014]

Yuval Harari: Nexus, München 2024

Institut für moderne Psychotherapie: Die besten Prompts bei Ängsten, Depressionen und Burnout; Link, abgerufen am 8.10.2024

Jim the AI Whisperer: I hacked Copilot AI's system prompt and it reveals the chatbot secretly builds a dossier about you
in: medium.com vom 1.3.2025

Alexandra Klofat: Wie funktionieren Transformer? Definition und Praxis; informatik-aktuell vom 16.5.2023

James Muldoon: Sex machina: in the wild west world of human-AI relationships, the lonely and vulnerable are most at risk
in: The Conversation vom 9.10.2024

Andrew Rogoyski: AI has a stupid secret: we're still not sure how to test for human levels of intelligence
in: The Conversation vom 4.10.2024

Gregor Schmalzried u.a.: KI-Podcast, der wöchentlich dienstags erscheint (ardaudiothek)

Armin Sieber: Dialogroboter, Wiesbaden 2019

Peter Turchin: End Times: Elites, Counter-Elites and the Path of Political Disintegration, New York 2023

Ashish Vaswani u.a.: Attention is All you Need, 2017; arxiv.org

Dave Ver Meer: Anzahl der ChatGPT-Benutzer und wichtige Statistiken
in: namepepper

 

© tydecks.info 2024