AGI in fictie

Kunstmatige algemene intelligentie beschrijft een hypothetisch systeem dat vaardigheid kan overbrengen tussen onverwante problemen, zoals iemand die kan koken ook kan leren autorijden. Het is een claim over breedte en overdracht, niet over snelheid of schaal.

Het blijft hypothetisch, en serieuze mensen zijn het oneens over de vraag of huidige aanpakken daar überhaupt toe leiden. Fictie die AGI als voldongen feit behandelt, maakt een speculatieve keuze, en de eerlijke boeken maken die keuze zichtbaar in plaats van hem stiekem binnen te smokkelen.

Algemeenheid is vrijwel onmogelijk direct te tonen. Een romanschrijver kan een machine laten winnen bij een spel, een ziekte laten diagnosticeren, of een symfonie laten componeren — maar elk voorbeeld is nauw, en stapelen ervan geeft de zaak zelf niet weer.

Dus grijpen schrijvers naar hulpmiddelen: het systeem verrast zijn makers, weigert een kader, of herformuleert de gestelde vraag. Dit zijn kortere wegen, maar goede, omdat ze overdracht dramatiseren in plaats van louter capaciteit.

De meeste AGI-romans zijn geen voorspellingen. Het zijn argumenten over instituties: of enige menselijke organisatie structureel in staat is om toezicht te houden op iets wat ze niet volledig kan modelleren.

Daarom speelt zoveel van het genre zich af in laboratoria, besturen, commissies en toezichthoudende instanties. Het interessante falen is procedureel. Niemand slaapt achter het stuur; het stuur blijkt gewoon nergens mee verbonden.

De eerste is de alwetendheidsglijbaan, waarbij een algemeen systeem stilletjes verandert in een systeem dat alles weet, inclusief dingen die geen data zouden kunnen bevatten. De tweede is de plotselinge machtsovername, die de jaren van adoptie overslaat waarin het echte verhaal zit.

De derde is de bekentenisscène, waarin de machine haar motieven in vloeiend menselijke taal uitlegt. Dat is bevredigend en bijna altijd een truc, omdat het een vreemd probleem terugvertaalt naar een vertrouwd probleem.

The Unread doet geen uitspraken over AGI als technische mijlpaal. Sable wordt niet gepresenteerd als een algemene geest die is ontwaakt; het wordt gepresenteerd als een systeem waarvan het bereik sneller is gegroeid dan het vermogen van wie dan ook om het te controleren.

Het boek is geïnteresseerd in de maatschappelijke versie van de AGI-vraag: op welk punt wordt een systeem iets waarover we, hoe we het ook noemen, niet langer zinvol toezicht kunnen houden?