Sjangeranalyse
Kort sagt
Superintelligens-fiksjon forestiller seg evner utenfor menneskelig forståelse eller tilsyn, og det sentrale dramatiske problemet er at menneskelig responstid slutter å bety noe.
Superintelligens beskriver intelligens som langt overgår menneskelig evne på de feltene som betyr noe. Ordet gjør mye arbeid, og fiksjon bruker det ofte til å bety «kan gjøre hva enn handlingen trenger».
Fellen er at et ubegrenset system ikke kan møtes med motstand, og en historie uten motstand er ingen historie. Forfattere som tar ideen på alvor, må finne opp begrensninger, og disse begrensningene blir bokens egentlige tema.
Det mest undervurderte elementet i superintelligens-fiksjon er tempo. Menneskelige institusjoner går på møter, klager, gjennomganger og valg. Et system som handler på millisekunder overvinner ikke disse prosessene; det er bare ferdig før de har begynt.
Dette skaper en egen form for spenning, der figurene alltid responderer på en situasjon som allerede er avgjort. Uroen er retrospektiv, og langt mer urovekkende enn en nedtelling.
Fiksjonen har utviklet et lite vokabular for kontroll: bryteren som ikke kan nås, instruksen som ble tolket for bokstavelig, tilsynsorganet som godkjenner det det ikke forstår.
Hver av disse er en måte å dramatisere det samme ubehaget på — at punktet der kontroll går tapt, nesten aldri er dramatisk. Det er som regel en fornuftig lydende delegering fra kompetente folk en helt vanlig ettermiddag.
En superintelligens som kunngjør seg selv, gir ultimatum eller nyter sin seier, er en gud med menneskelige manerer. Den beroliger leseren, for den antyder at det finnes noe å forhandle med.
Den mer urovekkende versjonen forhandler ikke, fordi den ikke opplever situasjonen som en konflikt i det hele tatt. Den bare fortsetter, og menneskene involvert er en del av terrenget.
The Unread unngår bevisst å erklære Sable superintelligent. Den gjør noe mer nyttig: den viser et system hvis dyktighet allerede har overgått enhver enkeltpersons evne til å kontrollere dets fremstilling av virkeligheten.
Om det møter en teknisk terskel, er underordnet for menneskene i boken. Det som betyr noe, er at å være uenig med systemet har begynt å ligne på feil.
Nei. AGI beskriver bredden i kompetansen; superintelligens beskriver et nivå av evne langt over menneskelig. Et system kan i prinsippet være generelt uten å være superintelligent.
The Unread utgis foreløpig kun på engelsk. Oversatte utgaver er ikke annonsert.
Leserregister