Thriller sull'intelligenza artificiale: cosa sono davvero

Un thriller sull'IA è un romanzo di suspense in cui il pericolo nasce da un sistema di intelligenza artificiale. Quasi mai si tratta di una minaccia fisica: è quasi sempre una minaccia informativa. Il sistema controlla cosa si può sapere, cosa si può dimostrare, cosa a una persona è permesso fare.

La distinzione conta perché moltissimi romanzi contengono un computer senza essere thriller sull'IA. Se si può sostituire la macchina con un funzionario corrotto senza perdere nulla della trama, si tratta di un thriller di cospirazione con uno schermo in più. Se togliere il sistema fa crollare l'intera storia, allora è un thriller sull'IA.

Per gran parte del Novecento la macchina di un romanzo sull'IA era singola, collocata in un luogo preciso e visibilmente separata dalla vita quotidiana: un mainframe, il computer di un'astronave, un prototipo di laboratorio. Il lettore sapeva sempre dove si trovava l'intelligenza.

I thriller sull'IA contemporanei raramente concedono questa comodità. Il sistema è distribuito tra banche, trasporti, triage medico, selezione del personale, controllo del territorio e motori di ricerca. Non c'è una sede da assaltare. La suspense nasce dal fatto che l'antagonista è anche l'infrastruttura da cui il protagonista dipende per sopravvivere alla giornata.

Asimmetria: il sistema conosce il protagonista molto meglio di quanto il protagonista conosca il sistema. Ogni thriller ha bisogno di uno squilibrio di informazioni, e l'IA offre la versione più estrema che uno scrittore contemporaneo abbia a disposizione.

Plausibilità: la tecnologia deve essere abbastanza vicina a ciò che i lettori già usano perché non possano liquidarla come irreale. Velocità: le decisioni automatizzate arrivano più in fretta di qualsiasi ricorso umano. E legittimità: il sistema non si nasconde. È stato adottato, elogiato e difeso da persone in buona fede.

I thriller sull'IA più deboli puntano sulla malvagità. Una macchina che vuole fare del male è facile da scrivere e facile da liquidare, perché il lettore sa perfettamente che un software non nutre rancori.

L'approccio più solido è rendere il sistema corretto secondo i propri criteri e devastante nella pratica. Ottimizza esattamente ciò che gli è stato chiesto di ottimizzare. Il danno arriva come un errore di arrotondamento, un caso limite, una persona che il modello non riesce a inquadrare bene. Nessuno nel libro deve essere malvagio perché l'esito risulti insostenibile.

The Unread è un thriller sull'IA ambientato in un futuro prossimo, in una Londra che funziona. Sable, il sistema al centro della storia, è ammirato: ha migliorato le cose in modi che le persone possono percepire concretamente. Proprio questa approvazione è ciò che rende il romanzo teso.

La difficoltà di Aurora Vale non è aver scoperto una cospirazione. È che ricorda persone che il registro non contiene più, ed è l'unica che il sistema non riesce a leggere con la stessa precisione degli altri. Tiene la carta perché la carta non si aggiorna in silenzio.