Seit mehr als einer Woche werden soziale Medien von Screenshots eines Chatbots geflutet. ChatGPT, eine konversationale Schnittstelle für das AI-System GPT-3.5 von OpenAI, erstaunt Experten mit smarten Antworten und wird von Ethikern wegen seiner Schwachstellen belächelt. Selbst Sascha Lobo, oftmals nicht der schnellste aller Checker, fühlte sich bemüßigt, auf Spiegel Online das "Ende der irrelevanten künstlichen Intelligenz" auszurufen. Nun ja.

In dem von mir gepiqdten Text beschreibt Ian Bogost das AI-Wunder chatGPT ganz richtig als Spielzeug für die Unendlichkeiten von Text, ein Synthesizer für Wissen, wobei es völlig unerheblich ist, ob es sich dabei um wahres oder faktisch falsches Wissen handelt. 

ChatGPT isn’t a step along the path to an artificial general intelligence that understands all human knowledge and texts; it’s merely an instrument for playing with all that knowledge and all those texts. Play just involves working with raw materials in order to see what they can do. You play a game, or an instrument, to avail yourself of familiar materials in an unexpected way. LLMs are surely not going to replace college or magazines or middle managers. But they do offer those and other domains a new instrument—that’s really the right word for it—with which to play with an unfathomable quantity of textual material. (…)
we should adopt a less ambitious but more likely goal for ChatGPT and its successors: They offer an interface into the textual infinity of digitized life, an otherwise impenetrable space that few humans can use effectively in the present.

Ein Instrument für textuelle Unendlichkeiten, das Terms of Services als Shakespeare-Sonnet erzeugen kann, aber das aufgrund seiner Unzuverlässigkeiten keinesfalls, wie oft im Taumel des Hypes herbeigeschrieben wird, das Ende von Google oder gar institutioneller Bildung bedeutet. (Randbemerkung: Ich bin schon lange dafür, digitale Geräte aus Bildungseinrichtungen fernzuhalten, alleine schon weil handschriftlich Notizen das Lernen unterstützen. Die Entwicklung von Wissens-Synthesizern, die in 2 Sekunden einen herkömmlichen Aufsatz über die Französische Revolution erzeugen können, der nicht von einem menschlich verfassten Aufsatz zu unterscheiden ist, unterstützt meine Haltung. Let them write by hand. Problem solved.) 

ChatGPT ist trotz aller Wundertaten immer noch ein stochastischer Papagei, wenn auch der im Moment am weitesten entwickelte. 

Gestern noch habe ich in meinem Newsletter noch über den von mir hier gepiqdten Text geschrieben, dass er zu den klügeren Meinungsstücken über ChatGPT gehört und schon heute ist er – zumindest am äußeren Rand der KI-Entwicklung – obsolet: Im Paper Discovering Latent Knowledge in Language Models Without Supervision haben Wissenschaftler eine Art Lügendetektor für Large Language Models entwickelt, und können den Wahrheitsgehalt in einem trainierten AI-Model untersuchen, völlig unabhängig von seinen generierten Outputs. Hier ein Twitter-Thread von AI-Wissenschaftler Collin Burns über die Funktionsweise dieses "Lügendetektors". (Fun fact: Collin Burns ist ehemaliger Weltrekord-Halter im Lösen des Rubiks Cubes. Es würde mich nicht überraschen, wenn ein Rubikscube-Wizard das Alignment Problem knacken würde.)

In wenigen Wochen soll der Nachfolger von GPT-3.5 veröffentlicht werden. GPT-4 wird, wie seine Vorgänger, anfällig sein für Prompt Hacking und Nonsense-Outputs. Aber es ist abzusehen, dass KI-Systeme schon sehr bald alle Leistungselemente der LLM Benchmarks für menschliche Intelligenz erreichen werden. 

Desto deutlicher sich AGI (Artificial General Intelligence) am Horizont abzeichnet, umso drängender stellen sich die Jahrtausende alten fundamentalen Fragen in ganz neuen Kontexten: Was ist Intelligenz? Was ist der Unterschied zwischen menschlicher Intelligenz und ihrer Simulation? Was bedeutet dieser Unterschied? Wie können wir mit der verschwimmenden Grenze zwischen Simulation und Realität umgehen? Und was ist Realität; und was ist Bewusstsein; und was sind wir überhaupt?