Ist KI vertrauenswürdig?
Sicherheit, Fairness und Transparenz

Beitrag für den Themenkreis Naturwissenschaft und Technik von 50plus aktiv an der Bergstraße am 28.3.2025 in Bensheim

 

Einleitung

Die Nutzung von Chatbots wird ebenso selbstverständlich wie WhatsApp, Youtube oder Google. Aber sind sie vertrauenswürdig? Entgleiten mit dem Einsatz von KI alle Kontrollen, und kann sich KI möglicherweise sogar selbständig machen? Kann KI unterschwellig Meinungen verändern, wie es bei einigen Wahlen vermutet wird, oder auch nur das Kaufverhalten? Liegt es am Umgang mit KI, dass sich jeder vierte Teenager psychisch krank fühlt?

Politisch am brisantesten ist die Frage nach der Fairness. Kommen alle Meinungen zu Wort und werden sie respektvoll behandelt? Es geht nicht nur um Zensur und das Sperren von Beiträgen und Anwendern. Weit subtiler ist die Frage: Werden Chatbots einseitig trainiert, so dass ihre Antworten nur die Ansichten einer kleinen Minderheit sehr aktiver Internet-Anwender widerspiegeln, meist aus den westlichen Metropolen, oder gar Texte, die ihrerseits von KI erzeugt sind? Alle großen Anbieter haben Ethik-Richtlinien, aber wie ist deren Umsetzung sichergestellt?

Zensur und KI-interne Kontrollen (KI-Alignment) sollen vor Missbrauch und verborgenen Gefahren schützen. Am bedrohlichsten ist das sicher beim Einsatz von Killer-Robotern. Oder liegt die Bedrohung ganz woanders, wenn sowohl Plattformen wie Google oder Facebook wie auch die Krankenkassen Daten sammeln, die in falsche Hände geraten können und Anwender erpressbar werden?

Im Ergebnis führt das zur Frage, wie KI transparent gemacht werden kann. Jeder Anwender sollte das Recht und die Möglichkeit haben, dass die KI-Programme bei Anfrage nachvollziehbar erklären können, wie sie zu ihren Ergebnissen gekommen sind, wem sie weiter gegeben werden und über welche Möglichkeiten die Besitzer der von ihnen gesammelten und verarbeiteten Daten verfügen.

* * *

Manche sagen, maschinell erzeugten Antworten ist grundsätzlich kein Vertrauen zu schenken, da Maschinen über keine eigene Lebenserfahrung verfügen und z.B. nicht erkennen, mit welchem Ernst Fragen gestellt werden, ob mit ihnen ein spielerischer Umgang wie in einem Flirt gewünscht ist, etc. Es ist zu bezweifeln, ob sie Trost spenden können. Zum anderen wird kritisiert, dass der Erfolg von ChatGPT und anderen Chatbots einfach ein großer Marketing-Erfolg und ein vorübergehender Hype ist.

ChatGPT wäre nie so schnell so erfolgreich geworden, wenn es nicht die sozialen Medien geben würde, über die die ersten Anwender von ihren Erfahrungen berichten konnten. So konnte es viral gehen. Offenbar sind in der Anfangsphase gezielt führende Medien und Influencer angesprochen worden, um das neue Produkt bekannt zu machen. OpenAI hat aktiv mit der Community interagiert, Feedback gesammelt und Fragen beantwortet. Es wird mit gewissen Einschränkungen kostenfrei angeboten (Freemium-Modell) und hierbei wird auf den Hype-Zyklus gesetzt. Durch fortlaufende Updates mit neuen Versionen (Release-Wechseln) und nützlichen Ergänzungen (Gadgets, "kleine Helferlein", Schnickschnack) soll das Interesse der Anwender wachgehalten werden.

Können Chatbots süchtig machen? Wer einmal angefangen hat, Chatbots regelmäßig zu nutzen, spürt schnell die Neigung, auf eigenes Nachdenken und Recherchieren zu verzichten und sich auf deren Antworten zu verlassen, so ähnlich, wie es bereits bei Taschenrechnern und der Routenplanung mit Navigatoren der Fall ist. Droht am Ende, die Frage nach der Vertrauenswürdigkeit ganz zu vergessen, eine neue Art von Entmündigung auf hohem technischen Niveau?

Wo stehen wir heute? Nach der Euphorie von vor einem Jahr ist gegenüber Chatbots eine Art Medienkompetenz gefragt. Ohne die grundsätzlichen Fragen zu vergessen, welche Veränderungen des Denkens, der Meinungsbildung und möglicherweise des Vorstellungsvermögens durch KI entstehen können, soll das Thema der Vertrauenswürdigkeit an einigen Themen eher technisch betrachtet werden. Vielleicht trägt die Veranstaltung dazu bei, nach überzogenen Erwartungen und dem Tal der Enttäuschungen den Pfad der Erleuchtung zu erreichen.

Hype-Zyklus nach Gartner Inc.
Urheber: Von Idotter, CC BY-SA 3.0, Wikimedia

Sicherheit

Das ist zuerst die Frage nach der Sicherheit. Sind die Bedenken zahlreicher KI-Forscher (darunter der aktuelle Physik-Nobelpreisträger Geoffrey Hinton, der Erfolgsautor Yuval Harari und führende Anbieter wie Elon Musk) berechtigt und ernst zu nehmen, dass sich die neuronalen Netzen aus sich heraus allen Kontrollen entziehen können? Einen sehr guten Einstieg bietet Yoshua Bengio auf seiner Website. Er war führend an der Entwicklung der Chatbots beteiligt, und hat am 24.6.2023 in einem Fragenkatalog (FAQ on Catastrophic AI Risks) mögliche Risiken bewertet.

– Können KI-Algorithmen handlungsfähig werden und von sich aus ihre Ressourcen steuern? Können sie z.B. von sich aus über Online-Dienste Minijobber beauftragen, für Informationszugänge Captcha-Rätsel zu lösen (Harari, 276f mit Bezug auf einen Bericht von OpenAI)? Solange sie nur Texte ausgeben und es dem Anwender überlassen, entsprechend zu handeln, ist es unkritisch und kann eine große Hilfe sein.

– Können sie sich proaktiv auf Maßnahmen vorbereiten, von außen abgeschaltet oder durch eingebaute Selbstzerstörungsprozesse unschädlich gemacht zu werden? Es gibt sicher bereits zahlreiche Algorithmen, um Informationsprozesse gegen äußere Angriffe wie Hacking und Sabotage zu schützen, zumal ihr Einsatz in Kriegen ständig zunimmt und sie vor gegnerischen Attacken zu schützen sind. Können sich diese Prozesse verselbständigen und gegen die eigenen Entwickler richten? Kann es geschehen, dass sich die Ereignisse wie bei einer Sturzflut oder einer sich mit Brandbeschleunigern von selbst steigernden Feuerkatastrophe überstürzen und jeder Kontrolle entziehen? Kann das von KI-Algorithmen bewusst geplant und ausgelöst werden?

Auch wenn es nicht gleich zur Katastrophe kommt, bleibt die Frage: Können sich KI-Algorithmen den von Menschen gesetzten Zielen entziehen? Ist das möglicherweise sogar eine Chance, wenn der Mensch unfähig wird, auf die Komplexität sich verändernder Naturereignisse zu reagieren? Manche hoffen, dass KI den Menschen retten wird, wenn der Mensch sich als unfähig erweist, auf klar erkennbare Trends vernünftig zu reagieren (und z.B. das Autofahren oder auch nur die hohen Geschwindigkeiten mit entsprechendem Energieverbrauch einzuschränken)? Diese These legen der Philosoph Thomas Metzinger und der KI-Entwickler Joshua Bach nahe.

Möglicherweise sind das aber alles nur apokalyptische Warnungen in der Tradition von Frankenstein (der 1818 von Mary Shelley geschaffenen Romanfigur) und HAL 9000 aus Kubricks Film 2001: Odyssee im Weltraum, mit denen sich bestimmte Menschen wichtig machen und für ihre Projekte Fördergelder einsammeln wollen. Bisher gibt es keine Beispiele, die ihre Sorgen rechtfertigen. Es gab einige Skandale, als KI-gesteuerte Programme sehr schnell wieder abgeschaltet werden mussten. Aber niemals lag es an einer sich verselbständigenden KI:

– Microsofts Chatbot Tay (2016). Der Chatbot wurde von Trollen übernommen und erzeugte bösartige Nachrichten. Er musste nach 16 Stunden deaktiviert werden. Es war unmöglich, ihn mit neuem Trainingsmaterial "umzuerziehen" und alles musste von vorn begonnen werden.

– Metas Galactica erzeugte Ende 2022 falsche wissenschaftliche Texte und musste innerhalb von drei Tagen abgeschaltet werden (siehe den Bericht in zdnet vom 23.11.2022).

– Gemini von Google erzeugte im Februar 2024 Bilder zu historischen Ereignissen und zeichnete herabsetzende und diskriminierende Bilder. Es musste gestoppt werden.

In all diesen Fällen hat KI keine eigene "bösartige Meinung" entwickelt, sondern es gab andere Gründe für die Fehlentwicklungen:

– KI Programme haben "gelernt", aus ihren Trainingsdaten problematische Aussagen und Darstellungen nachzuahmen und zu verbreiten.

– Design-Fehler können ungewollt bösartige Inhalte erzeugen, die kontrovers oder gefährlich waren. Offenbar sind die Programme nicht ausreichend getestet worden.

Die Anbieter von Chatbots haben die Konsequenz gezogen: Die Trainingsphase wird deutlich von der Anwendungsphase getrennt. Für jeden Anwender wird ein eigener Datenbereich eingerichtet, in dem die Chats verlaufen und der Chatbot die früheren Eingaben der Antwortet berücksichtigen. Aber erst im Nachgang werden die Chatverläufe für eine neue Trainingsphase herangezogen.

Weitere Beispiele für Misalignment: (1) Falsche Antworten von Chatbots, (2) Finanzkrisen durch algorithmisch gesteuerte und ausgelöste Käufe, (3) und vor allem die mit Killerrobotern verbundenen Gefahren.

Grenzfälle sind der Tyrannenmord und die Rebellion. Ist es denkbar, dass ein KI-Programm befragt wird, wie der Ukraine-Krieg beendet werden kann, und von sich aus einen Tyrannenmord vorschlägt (auf welcher Seite auch immer) und ihn direkt vorbereitet und ausführt? Ist es denkbar, dass Killerroboter, die in aussichtslose Kampfsituationen geschickt werden, dies erkennen, rebellieren und ihre menschlichen Drohnenpiloten töten? Das kann auch harmloser formuliert werden: Angenommen, alle Autos werden von neuronalen Netzen gesteuert. Ist es denkbar, dass sie von KI auf ein Höchsttempo von 30 Stundenkilometern beschränkt werden, um den CO2-Ausstoß zu senken? Beispiele dieser Art drohen jedoch in die falsche Richtung zu gehen und ein Missverständnis zu verstärken, was mit KI geschieht. KI wird nie von sich aus moralische Fragen abwägen und hat keine eigene Moral, sondern kann nur das Material auswerten, mit dem es trainiert wurde. Man stelle sich vor: KI wird mit Gaming-Programmen trainiert. Es ist nicht auszumalen, wie es bei moralischen Fragen antworten wird. Die eigentliche Gefahr liegt daher woanders: Möglicherweise merken wir gar nicht, wie wir neuronale Netze trainieren (und uns auch uns selbst und anderen gegenüber verhalten), und bekommen es erst wie einen Spiegel vorgehalten, wenn KI uns aufgrund seiner mechanischen Prozesse so antwortet, wie wir es schon immer getan haben, aber ohne es offen auszusprechen und ohne es uns einzugestehen. Die Gefahr ist dann einfach, dass wir zu spät merken, in welcher Weise KI etwas von uns gelernt hat, bei dem wir davon ausgehen und darauf vertrauen, dass es darüber hinaus eine Art innere Hemmschwelle gibt, die unser Verhalten im letzten Moment steuert. Es sind eigene Experimente mit KI erforderlich, um das zu prüfen, bevor KI-Systeme wie die Killerroboter zum Einsatz kommen.

Fairness

In der Alltagswelt brisanter ist die Frage nach der Fairness und wurde 2024 in der US-Präsidentenwahl ein wichtiges Thema. Gibt es heute im Internet Zensur und Einschränkung der Redefreiheit und damit der demokratischen Grundrechte? Wird Trump seine Versprechen einlösen, das zu ändern? Siehe seine Rede im Dezember 2022 (Nachdenkseiten vom 11.11.2024) und die Executive Order Restoring Freedom of Speech and Ending Federal Censorship vom 20.1.2025.

Das Thema Zensur und Sicherheit hat viele Aspekte:

– Soziale Medien wie Facebook, Instagram, Tiktok und X sind besonders für die jüngere Generation zur wichtigsten Nachrichtenquelle geworden. Während klassische Medien über Kontrollinstanzen wie Redaktionskonferenz, Herausgebergremien und Lektorat verfügen und von staatlichen Presseämtern und Nachrichtendiensten reguliert werden, wollen die sozialen Medien den Anwendern freie Hand geben und vertrauen auf deren Schwarmintelligenz und Eigenkontrolle. Aktuell ist Facebook dem Weg von X gefolgt. Sind solche Regeln zuverlässig, oder bedürfen sie staatlicher Vorgaben? Beim Recherchieren sind mir keine Aufsehen erregenden neueren Skandale bei X oder Facebook bekannt geworden, und meist wird auf Falschnachrichten verwiesen, die es bereits seit vielen Jahren gibt. Ist die Kritik an den Neuen Medien ein Rettungsversuch der traditionellen Medien und staatlichen Presseämter, nicht völlig in die Bedeutungslosigkeit zu versinken? Wie konnte es sein, dass sich das Verhältnis von Progressiv und Konservativ umzukehren scheint, wenn neuerdings die Progressiven für mehr Kontrollen und die Konservativen für größere Freiheit eintreten?

– Haben die sozialen Medien zu einer historisch einmaligen Kontrolle der Nachrichten durch wenige reiche Privatunternehmer geführt (Bill Gates, Mark Zuckerberg, Jeff Bezos, Elon Musk u.v.a.), die weltweit agieren und sich den jeweils nationalen Gesetzen und Gesetzgebungen entziehen können? Wie werden die Interessen derjenigen sichergestellt und geschützt, die nicht über die finanziellen und technischen Mittel verfügen, ihre eigenen Nachrichtendienste aufbauen zu können? Kommt es zu einer Aufteilung der Welt in die westlichen Länder wie G7 einerseits und neue staatliche Zusammenschlüsse wie BRICS andererseits?

– Sind mit den Chatbots neue Formen der verdeckten Zensur entstanden? Chatbots antworten nur so, wie sie trainiert worden sind. Wer entscheidet und kontrolliert, zu welchen Einschränkungen es beim Training kommt? Bei den maschinell durchgeführten Trainings werden die im Internet vorhandenen Daten zugrunde gelegt. Dadurch erhalten diejenigen, die dort bereits etwas veröffentlicht haben, eine verdeckte Übermacht. Das sind derzeit die gut gebildeten, überwiegend männlichen und weißen Anwender in den westlichen Ländern. Führt diese versteckte Dominanz zu einer neuartigen systemischen und symbolischen Gewalt? Aus dieser Erfahrung heraus bauen andere Länder wie China ihre eigenen Chatbots auf (siehe den Erfolg von Deepseek). Nebenbei gefragt: Was geschieht eigentlich in Europa? – Aktuelle Stichproben (Stand: Ende März 2025) zu politisch brisanten Fragen wie z.B. der Regierungstätigkeit von Robert F. Kennedy Jr. als neuer Gesundheitsminister der USA zeigen, wie Grok 3 (der in X integrierte Chatbot von Elon Musk) und das bei akademischen und professionellen Anwendern beliebte perlexity.ai deutlich unterschiedliche Quellen nennen, zu meiner Überraschung aber in den Antworten nicht besonders weit auseinander liegen, also zumindest derzeit ein gutes Maß an Fairness zeigen.

– Eine der wirksamsten Methoden unfairer Behandlung ist das Totschweigen und Ignorieren. Anspruch von Fairness sollte daher nicht nur sein, bei den Trainingsdaten alle Meinungen zu berücksichtigen, sondern die Anwender auch beim Chatten auf andere Ansichten hinzuweisen. Sie können sich dann selbst entscheiden, in welcher Richtung sie ihr jeweiliges Thema vertiefen wollen. Für einen fairen Umgang muss das gegenüber allen Seiten erfolgen. Derzeit ist zu beobachten, dass recht einseitig bestimmte Ansichten als umstritten gekennzeichnet werden und andere nicht. Zugleich ist schwierig, hierfür Regeln zu finden. Ein Chatbot soll auch nicht schulmeisterlich werden.

Hat Elon Musk mit X die früheren Kontrollen von Twitter abgeschafft? Oder gibt es in X eine neue Zensur und Beeinflussung, so Der Standard vom 14.11.2024 mit Berufung auf eine Studie von Timothy Graham und Mark Andrejevic (QUT ePrints am 1.11.2024)? Es ist schwer zu beurteilen, ob nicht die Autoren dieser Studien ihrerseits von Vorurteilen ausgehen, welche Themen und Meinungen sie für bedenklich halten. Ist in X eine Verrohung der Sprache zu beobachten, und führt sie erkennbar zu einem Verfall wissenschaftlicher, politischer und alltäglicher Kommunikation, in der nicht mehr Sachargumente zählen, sondern wer am unverschämtesten zu beleidigen und herabzusetzen versteht? Wo ist die Grenze zur Propaganda, wie sie seit dem bahnbrechenden Buch Propaganda (1928) von Edward Bernays (1891-1995), einem Neffen von Sigmund Freud, für die meisten Unternehmen und Parteien selbstverständlich geworden ist, auch wenn sie von Öffentlichkeitsarbeit statt Propaganda sprechen (seit mit Goebbels der Ausdruck 'Propaganda' verbrannt ist)?

Die von allen sozialen Diensten vertretenen ethischen Prinzipien scheinen unumstritten, aber es ist die Frage, mit welchem Geist sie umgesetzt werden. Gibt es verborgene Zielsetzungen, und wer kontrolliert die Kontrolleure? Wie ist ein Grundverständnis der Kooperation und des Vertrauens sicherzustellen?

Das Unbehagen über die Wirkungen und den Suchtcharakter sozialer Medien führen zu Verboten und Einschränkungen (Zensur) für jugendliche Nutzer (so wie ihnen auch das Autofahren erst ab einem bestimmten Alter erlaubt ist), die seit Herbst 2024 spektakulär in Australien und bereits früher in China eingeführt wurden und jetzt in Deutschland diskutiert werden. Reine Verbote werden nicht helfen. Es ist Aufgabe der Eltern und Lehrer, ihren Kindern und Schülern Medienkompetenz zu vermitteln. Michael Erle fasst in Algorithmen gefährden den demokratischen Konsens vom 15.12.2024 die Position einer schwarz-grünen Einigung zusammen (Link). Er nennt als Vordenker Michael Blume (* 1967), derzeit Antisemitismus-Beauftragter bei der Landesregierung Baden-Württemberg und dessen Blog Natur des Glaubens bei spektrum.de. Für Blume ist eine Thymokratie entstanden, "Definition: Person oder Institution, die Empörung, Wut, Hass und Verrohung in der digitalen Welt bewusst und gezielt fördert und befeuert", so in einer Rede Das europäische Medienrecht zwischen Demokratie und Thymokratie Ende 2024 (Link). Ursprünglich bedeutet das griechische Wort thymos die sich leicht erregende, triebhafte Lebenskraft, die zu Mut, aber auch Zorn führen kann und für Platon in der Seele zwischen Vernunft und Begierde steht. Heute wird der Ausdruck oft abwertend gebraucht, um den jeweiligen Gegner herabzusetzen und als Quelle von Nationalismus, Populismus oder toxischem Stolz gesehen. Blume empfiehlt den japanischen Chatbot felo.ai . Er arbeitet an den Studien zur Mediennutzung bei unterschiedlichen Altersgruppen mit, die vom Medienpädagogischen Forschungsverbund Südwest herausgegeben werden (Link).

Transparenz

Was ist Transparenz, und welche Transparenz wünschen wir uns?

Meta-Platforms, zu dem Facebook, Instagram und WhatsApp gehören, hat sein Sprachmodell Llama (Large Language Model Meta AI) entsprechend einer Forderung seines Chefentwicklers Yann LeCun (* 1960) in Open-Source geschrieben. Der Code kann über den Gemeinschaftsdienst GitHub abgerufen werden, der jedoch seit Ende 2018 Microsoft gehört. Um Missbrauch zu verhindern, hat Meta den Zugang auf Forscher und akademische Institutionen beschränkt.

Deepseek (und inzwischen weitere Unternehmen in China) hat seinen Chatbot ebenfalls in Open-Source entwickelt und ist noch einen Schritt weiter gegangen: Jeder kann sich die Software auf seinen Rechner laden, dort unabhängig von staatlichen Kontrollen laufen lassen und für eigene Bedürfnisse anpassen und überarbeiten. Es ist offen, ob Deepseek die Weitergabe seiner Software in ähnlicher Weise wie Meta einschränken wird. Schon jetzt zeigt sich, dass ein geopolitischer Konflikt hinzukommt. Wird Deepseek Unternehmen in den BRICS-Ländern ermöglichen, eine unabhängige Richtung einzuschlagen, während bisher alles von US-Unternehmen dominiert wurde? Es ist zu erinnern, dass Länder wie Südafrika mit seiner Unix-Variante Ubuntu (das Wort bedeutet in Zulu 'Menschlichkeit') wichtige Beiträge für die Open-Source-Bewegung geleistet haben.

Open-Source ist die elementare Voraussetzung, um Transparenz zu gewährleisten, auch wenn sicher nur Fachleute in der Lage sind, den Programmtext zu lesen und zu verstehen. Noch wichtiger ist zu erfahren, mit welchen Daten und Verfahren die Programme trainiert wurden. Dazu geben die Hersteller bis heute keine klare Antwort. Das kann nur indirekt erschlossen werden, wenn z.B. die New York Times in einem Anspruch auf Urheberrecht OpenAI verklagt, weil OpenAI mit den von New York Times gelieferten Daten seine Programme trainiert und damit Geld verdient (siehe einen aktuellen Beitrag von Eva-Maria Weiß New York Times gegen OpenAI: Richter lässt Hauptforderungen zu in heise.de vom 28.3.2025).

Transparenz dient auch dem Eigeninteresse. Um die Software bilden sich Communities, die an ihr weiter arbeiten und den Herstellern wichtige Hinweise für die Verbesserung bieten.

Mit welchen Algorithmen moderieren Facebook u.a. die Beiträge und löschen eventuell automatisch Beiträge? Schafft der europäische Digital Services Act (DSA, auf Deutsch: Gesetz über digitale Dienste) Klarheit?

Ist es überhaupt möglich, Transparenz einzulösen? Wenn Menschen zu bahnbrechenden Entdeckungen oder auf künstlerische Ideen kommen, können sie nur schwer sagen, was die Eingebung ausgelöst hat. Oft kommen beim Duschen, im Urlaub oder beim Träumen neue Ideen. Legendär: Der physikalische Durchbruch zur Überwindung des Bohrschen Modells gelang Heisenberg bei einem Urlaubsaufenthalt im Juni 1925 auf der Insel Helgoland, wo er seinen Heuschnupfen auskurieren wollte. Daher ist zu vermuten, dass die von Freud entwickelte Traumlogik (Verschiebungen, Verdichtungen) den besten Hinweis gibt. In solchen Momenten ist der Verstand gegenüber den üblichen Anforderungen gelockert und in einem offeneren Zustand, um sich von Vorurteilen und vorgegebenen Erwartungen lösen zu können.

Als weitere Schwierigkeit sind die Sprachbrüche zu berücksichtigen. Von neuronalen Netzen werden verbale oder visuelle Eingaben in Zahlen umgewandelt. Mit den Zahlen wird operiert. Das Ergebnis ist intern zunächst wiederum eine Zahl, die bei der Ausgabe in Worte übersetzt werden muss. Das kann sicher nie eindeutig gelingen. Es ist an das Beispiel der hebräischen Sprache zu denken: Hebräische Buchstaben sind zugleich Zahlen. Insofern sollte es dort besonders einfach sein. Aber es ist bekannt, wie in der Exegese der Bibel nahezu für jedes Wort die Deutung umstritten ist. – Es können Fremdsprachen hinzukommen. Wie werden bei Programmen aus China wie Deepseek die chinesische und die englische Sprache gemischt, und zu welchen Konsequenzen führt das?

Ist es denkbar, dass KI Witze erzählt, deren Pointe den Menschen unverständlich bleibt? Mit Fragen dieser Art hat sich Stanislaw Lem in seinem Roman Also sprach GOLEM beschäftigt.

Das auf neuronalen Netzen basierende AlphaGo ist auf Spielzüge gekommen, die den Go-Spielern unverständlich waren, die aber zu seinem Sieg geführt haben. Seither versuchen auch menschliche Go-Spieler bisweilen unerwartete Züge zu spielen und sich nicht nur auf die in Lehrbüchern und aus ihren Erfahrungen hervorgehobenen Züge zu verlassen.

Explainable Intelligence

Explainable AI, Erklärbare KI ist der wichtigste Lösungsansatz, um Transparenz sicher zu stellen, wenn es denn möglich ist (siehe einführend z.B. fraunhofer.de vom 15.10.2024). Diesen Teil wird Ulrich Thiel übernehmen.

Anfänge gehen auf die seit den 1960ern entwickelten Expertensysteme zurück, von denen sich die Forschung seinerzeit insbesondere im medizinischen Bereich viel versprochen hat. Es wurde erwartet, dass Expertensysteme ihre Ergebnisse nachvollziehbar und reproduzierbar äußern können.

Bei neuronalen Netzen geht es um Chain of Thought (Gedankenkette). Können neuronale Netze eine Frage in eine Gedankenkette zerlegen, mit ihr schrittweise zu Ergebnissen gelangen und diesen Weg darstellen?

Ist es möglich, den Lösungsweg der neuronalen Netze an den von ihnen gebildeten Gewichten nachzuvollziehen? Es sollte möglich sein zu erkennen, welche Gewichte sich besonders stark verändert haben. Ist es möglich, die Gewichte zu analysieren, so wie es mit der Positronen-Emissions-Tomographie (PET) bei den Aktivierungsmustern im Gehirn gelingt?

Literatur

Yoshua Bengio: FAQ on Catastrophic AI Risks, unter: yoshuabengio.org am 24.6.2023

Cliff Berg: They Know a Collapse Is Coming, in: medium.com am 22.1.2025 mit Links zu Beiträgen von Geoffrey Hinton u.a.

Michael Blume: Das europäische Medienrecht zwischen Demokratie und Thymokratie; in: spektrum.de vom 7.12.2024

Michael Erle: Algorithmen gefährden den demokratischen Konsens
in: telepolis vom 15.12.2024

Ulrich Gutmair: Gilles Deleuzes Kontrollgesellschaft - Wer kontrolliert die Kontrolle
in: taz vom 18.1.2025

Yuval Harari: Nexus, München 2024

Martina Heßler: Sisyphos im Maschinenraum, München 2025

Marcel Kunzmann: DeepSeek R1: Chinas Antwort auf OpenAI übertrifft alle Erwartungen; telepolis am 23.1.2025

Abby Morgan: Explainable AI: Visualizing Attention in Transformers
in: generativeai.pub am 17.7.2023

Werner Thiede: Trumps KI-Projekt: Kann die Macht einer 'Superintelligenz' zur Entmachtung der Menschheit führen?; Berliner Zeitung am 26.1.2025

Eva-Maria Weiß: New York Times gegen OpenAI: Richter lässt Hauptforderungen zu; in heise.de vom 28.3.2025

Bildnachweis: https://unsplash.com/de/fotos/ein-computergeneriertes-bild-einer-schnurkugel-P5mCQ4KACbM

© tydecks.info 2025