AGI i litteraturen: Hvorfor den er så vanskelig å vise

Generell kunstig intelligens beskriver et hypotetisk system som kan overføre kompetanse mellom urelaterte problemer — slik en person som kan lage mat, også kan lære å kjøre bil. Det er en påstand om bredde og overførbarhet, ikke om fart eller størrelse.

Den forblir hypotetisk, og seriøse fagfolk er uenige om dagens tilnærminger i det hele tatt fører dit. Fiksjon som behandler AGI som et oppnådd faktum, tar et spekulativt valg, og de ærlige bøkene gjør det valget synlig i stedet for å smugle det inn.

Generalitet er nesten umulig å vise direkte. En forfatter kan skildre en maskin som vinner et spill, stiller en diagnose eller komponerer en symfoni — men hver demonstrasjon er smal, og å stable dem gir ikke selve saken.

Så griper forfattere til stedfortredere: systemet overrasker sine skapere, nekter å underordne seg en ramme, eller omformulerer spørsmålet det ble stilt. Dette er snarveier, men gode sådanne, for de dramatiserer overførbarhet, ikke bare ferdighet.

De fleste AGI-romaner er ikke spådommer. De er argumenter om institusjoner: om noen menneskelige organisasjoner strukturelt er i stand til å føre tilsyn med noe de ikke kan modellere fullt ut.

Derfor foregår så mye av sjangeren i laboratorier, styrer, utvalg og tilsynsorganer. Det interessante sammenbruddet er prosessuelt. Ingen sover ved roret; det viser seg bare at roret ikke er koblet til noe.

Den første er den stille glidningen mot allvitenhet, der et generelt system umerkelig blir et system som vet alt, også ting ingen datamengde kunne inneholde. Den andre er den umiddelbare maktovertakelsen, som hopper over de årene med innføring der den egentlige historien ligger.

Den tredje er tilståelsesscenen, der maskinen forklarer sine motiver flytende på menneskelig vis. Det er tilfredsstillende og nesten alltid et lureri, fordi det gjør et fremmedartet problem om til et kjent ett.

The Unread hevder ikke noe om AGI som teknisk milepæl. Sable fremstilles ikke som et generelt sinn som har våknet, men som et system hvis rekkevidde har vokst raskere enn noens evne til å kontrollere det.

Boken er opptatt av den sosiale versjonen av AGI-spørsmålet: når blir et system noe vi ikke lenger meningsfullt kan overvåke, uansett hva vi kaller det?