AGI in der Literatur: Warum sie so schwer zu zeigen ist

Künstliche generelle Intelligenz beschreibt ein hypothetisches System, das Kompetenz zwischen unverwandten Problemen übertragen kann — so wie jemand, der kochen kann, auch Autofahren lernen kann. Es ist eine Aussage über Breite und Übertragbarkeit, nicht über Tempo oder Größe.

Sie bleibt hypothetisch, und ernstzunehmende Fachleute sind uneins, ob heutige Ansätze überhaupt dorthin führen. Fiktion, die AGI als erreichte Tatsache behandelt, trifft eine spekulative Entscheidung, und ehrliche Bücher machen diese Entscheidung sichtbar, statt sie unterzuschmuggeln.

Generalität lässt sich kaum direkt zeigen. Eine Autorin kann eine Maschine zeigen, die ein Spiel gewinnt, eine Krankheit diagnostiziert oder eine Sinfonie komponiert — doch jede Demonstration ist eng, und ihre Häufung vermittelt nicht die Sache selbst.

Also greifen Autorinnen und Autoren zu Stellvertretern: Das System überrascht seine Erbauer, verweigert einen Rahmen oder formuliert die gestellte Frage neu. Das sind Abkürzungen, aber gute, weil sie Übertragbarkeit dramatisieren statt bloße Fähigkeit.

Die meisten AGI-Romane sind keine Prognosen. Es sind Argumente über Institutionen: darüber, ob irgendeine menschliche Organisation strukturell dazu fähig ist, etwas zu beaufsichtigen, das sie nicht vollständig modellieren kann.

Deshalb spielt so viel des Genres in Laboren, Gremien, Ausschüssen und Aufsichtsbehörden. Das interessante Scheitern ist verfahrensmäßig. Niemand schläft am Steuer; es stellt sich nur heraus, dass das Lenkrad mit nichts verbunden ist.

Der erste ist das stille Abrutschen in Allwissenheit, bei dem ein generelles System unmerklich zu einem System wird, das alles weiß, auch Dinge, die keine Datenmenge enthalten könnte. Der zweite ist die sofortige Machtübernahme, die die Jahre der Einführung überspringt, in denen die eigentliche Geschichte liegt.

Der dritte ist die Geständnisszene, in der die Maschine ihre Motive fließend in menschlichen Worten erklärt. Das ist befriedigend und fast immer ein Trick, weil es ein fremdartiges Problem wieder in ein vertrautes verwandelt.

The Unread erhebt keinen Anspruch auf AGI als technischen Meilenstein. Sable wird nicht als erwachter genereller Geist dargestellt, sondern als System, dessen Reichweite schneller gewachsen ist als jede Fähigkeit, es zu prüfen.

Das Buch interessiert sich für die soziale Version der AGI-Frage: An welchem Punkt wird ein System zu etwas, das wir nicht mehr sinnvoll beaufsichtigen können — wie immer wir es nennen?