L'AGI nella narrativa: cosa significa davvero

L'intelligenza artificiale generale descrive un ipotetico sistema capace di trasferire competenze tra problemi non correlati, così come una persona che sa cucinare può anche imparare a guidare. È un'affermazione su ampiezza e trasferimento, non su velocità o scala.

Resta ipotetica, e tra gli esperti c'è un disaccordo genuino sul fatto che gli approcci attuali possano mai portarci. Una narrativa che tratta l'AGI come un fatto già raggiunto sta compiendo una scelta speculativa, e i libri onesti rendono quella scelta visibile invece di introdurla di nascosto.

La genericità è quasi impossibile da mostrare direttamente. Un romanziere può raccontare una macchina che vince a un gioco, diagnostica una malattia o compone una sinfonia — ma ogni dimostrazione resta ristretta, e sommarle non trasmette la cosa in sé.

Per questo gli autori ricorrono a segnali indiretti: il sistema sorprende chi lo ha creato, rifiuta un'impostazione, riformula la domanda che gli è stata posta. Sono scorciatoie, ma buone, perché drammatizzano il trasferimento più della capacità.

La maggior parte dei romanzi sull'AGI non sono previsioni. Sono argomentazioni sulle istituzioni: se un'organizzazione umana sia strutturalmente in grado di sorvegliare qualcosa che non può modellare interamente.

Per questo tanta narrativa del genere è ambientata in laboratori, consigli di amministrazione, comitati e organi di controllo. Il fallimento più interessante è procedurale. Nessuno si è addormentato al volante; è il volante a non essere collegato a nulla.

Il primo è la deriva verso l'onniscienza, in cui un sistema generico diventa silenziosamente un sistema che sa tutto, incluse cose che nessun dato potrebbe contenere. Il secondo è la presa di potere istantanea, che salta gli anni di adozione in cui vive la vera storia.

Il terzo è la scena della confessione, in cui la macchina spiega i propri motivi in un fluente linguaggio umano. È soddisfacente e quasi sempre un imbroglio, perché riconverte un problema estraneo in uno familiare.

The Unread non avanza affermazioni sull'AGI come traguardo tecnico. Sable non è presentato come una mente generica che si è risvegliata, ma come un sistema la cui portata è cresciuta più in fretta della capacità di chiunque di verificarla.

Il libro si interessa alla versione sociale della domanda sull'AGI: a che punto un sistema diventa qualcosa che non riusciamo più a supervisionare in modo significativo, comunque lo si voglia chiamare?