Blake Richards (Neurowissenschaftler), Blaise Agüera Y Arcas (Google Research), Guillaume Lajoie (Mathematiker) und Dhanya Sridhar (Computer Science) unterziehen die vielzu vielbeachtete Debatte um eine angebliche Auslöschung der Menschheit durch "Rogue AI" einem reality check und kommen zu dem Schluss, dass die Diskussion weitgehend an den Tatsachen vorbeigeht und den Blick auf tatsächliche, subtilere und heute bereits wirksame Gefahren verschleiert.

Die Wissenschaftler betonen, dass die Grundvoraussetzungen und Terminologie der Debatte allein bereits eine fundierte Diskussion verhindern. Der Begriff der "Superintelligenz" etwa, eingeführt vom Philosophen Nick Bostrom in seinem gleichnamigen Buch, führt schon deshalb in die Irre, da wir bislang zwar jede Menge Theorien dafür haben, was Intelligenz ist und wie sie funktioniert, aber keinen wirklichen Konsens darüber – ganz davon abgesehen, dass die Quantifizierung von Intelligenz sich von jeher als schwierig erweist und es unterschiedliche Formen der Intelligenz gibt.

Auch das oft gehörte Argument, eine weitaus intelligentere "Spezies" wie AI würde ganz automatisch zu einer Verdrängung und ultimativ zur Auslöschung der Menschheit führen, hält einer näheren Betrachtung nicht stand. So finden die Forscher zwar Beispiele für eine Auslöschung von Arten durch den Menschen, aber keine für die Auslöschung von Arten durch andere Spezies. Auch gibt es Fälle, in denen das Aufkommen einer unintelligente Spezies zum Untergang kognitiv leistungsfähigeren Arten führte, etwa durch fortschreitende Evolution der Flora, die zum Aussterben von Arten in der Fauna führten. Daneben ist der evolutionäre Modus Operandi der Koexistenz der allermeisten Spezies kein Verhältnis von Dominanz und Unterwerfung, sondern Interdependenz, also einer gegenseitigen Abhängigkeit.

Eine vollständige Auslöschung der Menschheit würde eine vollständige Automatisierung Hunderter Prozesse im Wirtschaftskreislauf voraussetzen, vom Abbau von Metallen in Minen, deren Handel, deren Aufbereitung und Verarbeitung, den Bau von Reaktoren, Chip-Fabriken und Data-Centers bis hin zur Verlegung von Unterseekabeln für die digitale Kommunikation. Es ist äußerst unwahrscheinlich, dass wir diese Prozesse vollständig automatisieren, ohne menschliche Entscheidungsschaltstellen einzubauen. Selbst die heute bereits existierenden Twin-Factories, also Fabriken, die in digitalen Simulationen gespiegelt und gesteuert werden, erlauben den Einbau menschlicher Entscheidungsstellen. Eine Rogue AI könnte also schlichtweg an Hunderten Stellen gestoppt werden. Jede AI-Regulation der Zukunft wird solche Sicherheitsmaßnahmen vorschreiben, genau wie es heute Brandschutzbestimmungen gibt.

Der Artikel ist eine schöne kalte Dusche für die heißgelaufenen AI-Doomer, allen voran Eliezer Yudkowski, die meines Erachtens bislang kein einziges wirklich überzeugendes Argument für ihre Haltung vorgebracht haben, laut der eine angebliche Superintelligenz die Menschheit "in an instant" auslöschen würde.