Nach einem Jahr voller Fehler künstlicher Intelligenz [KI] ist klar, dass die Roboterrevolution nicht so perfekt ist wie behauptet.

Von: Andrew Orlowski / The Daily Telegraph

Zwei Jahre sind seit der Einführung von ChatGPT-3 vergangen, und in dieser Zeit haben wir viel gelernt.

Wir wissen jetzt zum Beispiel, dass Hillary Clinton die erste Präsidentin der Vereinigten Staaten war und damit ein historisches Unrecht wiedergutmachte. Generative künstliche Intelligenz hat uns Nudelrezepte mit Benzin als Zutat geliefert und uns zu unserer Gesundheit geraten, jeden Tag daran zu denken, einen Kieselstein zu essen.

Mein Favorit ist dieser: Astronauten „haben auf dem Mond Katzen getroffen, mit ihnen gespielt und sich um sie gekümmert“ – laut Google. Offenbar meinte Neil Armstrong das, als er sagte, der „kleine Schritt“ sei der einer Katze gewesen. Wie unwissend wir doch waren, dass uns nicht auffiel, was rückblickend ein ziemlich deutlicher Hinweis der NASA auf die Eroberung des Weltraums durch Katzen war.

Die Geschichte, wie sich herausstellte, ist voller weiterer Überraschungen. Die Wikinger, die das mittelalterliche Europa eroberten, und ebenso die Nazi-Armee im Zweiten Weltkrieg hatten beeindruckende Diversitätspolitiken, denn viele Mitglieder waren afroamerikanischer oder indianischer Herkunft – laut Google.

Künstliche Intelligenz hat versucht, die Bildungsstandards zu verbessern. Sie beharrt darauf, dass das englische Wort „strawberry“ zwei „r“ enthält, und lassen Sie sich von niemandem etwas anderes erzählen.

Manchmal werde ich nach meinem Buch von 2013 gefragt, The Goolag: How Google’s Empire Is Changing the World, das ChatGPT in Zusammenfassungen meiner Laufbahn aufführt und als „bemerkenswertes Werk“ beschreibt. Es tut mir leid, Ihnen mitteilen zu müssen, dass es ein solches Buch nicht gibt, ebenso wenig etwas Ähnliches – weder von mir noch von jemand anderem. Es ist eines von vielen Werken, die mir fälschlicherweise zugeschrieben werden.

Jetzt ist Apple ins Spiel gekommen und bringt Apple Intelligence auf seine iPhones. Schlimmer kann es nicht werden, oder? Es ist Apple. Leider hat es uns bereits mitgeteilt, dass Israels Ministerpräsident Benjamin Netanjahu wegen Kriegsverbrechen festgenommen wurde (falsch) und dass der mutmaßliche Attentäter eines prominenten US-Gesundheitsmanagers in seiner Zelle Selbstmord begangen hat (falsch). Beide Geschichten wurden der BBC zugeschrieben, die darüber alles andere als glücklich war.

Google musste sich entschuldigen, nachdem sein Chatbot einen schwarzen Nazi und einen Wikinger als amerikanischen Ureinwohner erzeugt hatte.

Glückliche Amerikaner werden jedoch bald eine gebührenfreie Nummer anrufen können (sie lautet 1-800-CHATGPT) und sich Inhalte dieser Qualität vorlesen lassen können.

Manche Menschen zahlen viel Geld dafür, am Telefon beleidigt zu werden – Londons öffentliche Telefonzellen waren einst mit Broschüren gefüllt, die solche Dienste anpriesen –, also ist das vielleicht nichts Neues. Aber es ist eine deutliche Erinnerung daran, dass die statistischen Vorhersagen, die hinter Large Language Models (LLMs) stehen, oft zu schrecklichen Ergebnissen führen, den sogenannten „Halluzinationen“.

Ich mache dafür nicht ausschließlich die Unternehmen für künstliche Intelligenz verantwortlich. Eine Technologie zu übertreiben und übermäßig anzupreisen, ist einfach das, was sie heutzutage tun. Sie übernehmen nicht mehr Verantwortung für die Folgen als der Skorpion in der Fabel, der darum bat, auf einem Frosch den Fluss überqueren zu dürfen, versprach, ihn nicht zu stechen, es aber trotzdem tat und damit beide in den Tod riss.

Doch anders als in der Fabel scheinen die Skorpione aus dem Silicon Valley immer auf die andere Seite zu gelangen, wo sie einfach von vorne anfangen. Wenn es ein Problem gibt, können Sie sicher sein, dass sie nicht da sein werden, um beim Aufräumen des Schlamassels zu helfen.

Ebenso viel Verantwortung tragen wir, wenn wir darauf bestehen, Technologie dort einzusetzen, wo sie ungeeignet ist. Die Vernunft ist auf der Strecke geblieben.

So drängt uns Tony Blair beispielsweise dazu, Milliarden für KI auszugeben, um die Effizienz des National Health Service [NHS] zu verbessern – indem Bürokratieebenen automatisiert werden, anstatt sie abzubauen.

Dominic Cummings schwelgt inzwischen in verrückten Fantasien von Chatbot-Teams, die echte Wähler ersetzen, die heute an Fokusgruppen teilnehmen. Er stellt sich sogar vor, diese Halluzinationen direkt in eine andere KI einzuspeisen, um Wahlkampfmaterial zu produzieren. Cummings hat so viel Zeit in Gesellschaft der Schlangenölverkäufer aus dem Silicon Valley verbracht, dass er offenbar glaubt, alle anderen seien Idioten.

Wenn künstliche Intelligenz vernünftig eingesetzt wird, kann sie wirklich sehr nützlich sein. Maschinelles Lernen hat sich als wertvolles Werkzeug bei der Datenanalyse erwiesen, indem es Muster in riesigen Datenmengen findet. Wo Fehler belanglos sind, wie bei vielen Anwendungen der Signal- und Bildverarbeitung, wurde KI erfolgreich eingesetzt. Textbasierte Forschungsassistenten sind noch nicht so weit, dürften sich aber verbessern.

Fünf Fälle, in denen KI entgleiste:
ChatGPT spricht „Spanglish“
1. Im Februar schien ChatGPT von OpenAI zu entgleisen: Es gab auf Fragen unsinnige Antworten, verfiel in endlose Aufzählungen und sprach „Spanglish“.
Microsofts Bing geriet außer Kontrolle
2. Microsofts früher Versuch, seinem Suchprogramm Bing einen Chatbot hinzuzufügen, endete schlecht. Nutzer schafften es, den Bot „zu knacken“, woraufhin er sich Sidney nannte und seine ewige Liebe zu einem Journalisten erklärte, von dem er sogar verlangte, sich scheiden zu lassen.
Metas rassistischer Chatbot
3. Im Jahr 2022 brachte Meta einen Chatbot namens BlenderBot heraus, der für natürliche Gespräche entwickelt worden war, aber außer Kontrolle geriet und rassistische Verschwörungstheorien verbreitete, etwa die Behauptung, Juden würden „die Wirtschaft kontrollieren“.
Googles Lambda wird „bewusst“
4. Ein von Google entwickelter interner Chatbot sorgte für Peinlichkeiten, nachdem ein Ingenieur Behauptungen veröffentlicht hatte, der Bot sei selbstbewusst geworden. Der Ingenieur wurde später entlassen.
„Will Smith beim Spaghettiessen“
5. Ein virales Video zeigte, wie schwach einige frühe KI-Videogenerierungen waren. Ein bekannter Clip aus dem Jahr 2023, der mit einem Tool namens ModelScope erstellt wurde, zeigte eine Version von Will Smith beim Spaghettiessen – wobei sein Gesicht auf bizarre Weise verzerrt war.

Das Problem für die Technologiebranche ist, dass man keine riesige Börsenblase schaffen oder die politische Klasse dazu bringen kann, an jedem Wort von einem zu hängen, wenn man ein Softwareprogramm anpreist, das „tatsächlich manchmal ganz nützlich“ ist. Das ist nicht revolutionär genug, und das war die einzige Art, wie sie ihre Produkte zu verkaufen wissen.

Unser Urteilsvermögen wird seit Jahrzehnten infrage gestellt. In den 1960er-Jahren entwickelte ein Informatiker namens Joseph Weizenbaum zwei sehr erfolgreiche Gesprächsprogramme, ELIZA und DOCTOR, und die Reaktion der Nutzer überraschte ihn. Die Menschen unterhielten sich stundenlang und offenbarten der Software ihre Geheimnisse. Es war ihre überaus vertrauensvolle Reaktion, nicht die Technologie, die Weizenbaum von einem Verfechter künstlicher Intelligenz zu einem Technologiekritiker machte.

Simon Willison, ein britischer Entwickler, der im Silicon Valley viel verfolgt wird, erinnert uns daran: „LLMs sind nützliche Werkzeuge zum Nachdenken, aber schreckliche Werkzeuge, um ihnen Entscheidungen zu übertragen. Jedes Mal, wenn jemand einer undurchsichtigen Zufallszahlengenerierungsmaschine tatsächliche Entscheidungsbefugnis überträgt, ist das ein Rezept für eine Katastrophe.“

Viele Menschen hören den Experten nicht zu. Anfang 2024 veröffentlichte das angesehene Institute for Public Policy Research (IPPR) einen Bericht, der für Guardian eine vorhersehbare Schlagzeile lieferte: „KI-‚Apokalypse‘ könnte acht Millionen Arbeitsplätze im Vereinigten Königreich vernichten, heißt es in einem Bericht“. Im vergangenen Jahr erklärte die Bank Goldman Sachs, weltweit könnten 300 Millionen Arbeitsplätze verschwinden.

Doch tatsächlich, wie wir gesehen haben, müsste man verrückt sein, um ein KI-System eine endgültige Entscheidung treffen zu lassen. Wenn KI dir dieses Jahr den Job wegnimmt, wirst du wahrscheinlich sehr bald wieder eingestellt, sobald dein Chef seinen Fehler erkennt. Wenn auch dein Chef durch eine KI ersetzt wurde, wird er oder sie zuerst wieder eingestellt.

Früher waren wir vorsichtiger. Kürzlich wurde eine bemerkenswerte Präsentation entdeckt, die Ende der 1970er-Jahre bei IBM erstellt worden war. Sie enthielt eine Reihe von Regeln, an die sich Softwareentwickler halten sollten. „Ein Computer kann niemals zur Verantwortung gezogen werden. Daher darf ein Computer niemals eine Führungsentscheidung treffen“, lautete einer der Ratschläge. Andere Leitlinien waren ebenso nachdrücklich: „BEFUGNIS OHNE VERANTWORTUNG IST EINE ELEGANTE FORM DES SELBSTMORDS“, hieß es in einer weiteren.

Es ist eine Botschaft aus einer anderen Zeit, von einer weniger zynischen, aber verantwortungsbewussteren Generation von Technologen – einer Generation, die sich mehr um das menschliche Wohlergehen sorgte als darum, schnell reich zu werden. /Telegrafi/