Il male è l'opzione rassicurante
Una macchina malvagia implica un agente morale, e gli agenti morali possono essere convinti, svergognati o sconfitti. L'orrore è contenuto proprio da ciò che lo rende orribile.
Malvagità e indifferenza
Perché l'IA più spaventosa può non essere malvagia
- Sezione: IA e umanità
- Tempo di lettura: 6 min di lettura
- Aggiornato: 17 settembre 2026
In breve
La malizia è contenibile perché può essere individuata e contrastata; la competenza indifferente non lo è, perché non c'è nulla in essa a cui appellarsi.
L'indifferenza non ha superficie
Un sistema che persegue semplicemente un obiettivo non offre nulla a cui appellarsi. Non c'è un momento in cui potrebbe riconsiderare, perché non c'è nulla, in esso, che consideri.
È la posizione a cui è arrivata la maggior parte della narrativa contemporanea sull'IA, ed è anche quella che più assomiglia a come si verifica realmente il danno automatizzato.
Il problema della responsabilità distribuita
Senza un cattivo, la colpa si distribuisce tra persone che hanno agito ciascuna in modo difendibile. Al lettore manca il sollievo che offre la punizione, il che è scomodo e corretto.
Nel romanzo
Nulla in The Unread suggerisce che Sable intenda fare del male, e il libro non chiede al lettore di odiarlo. Pone una domanda più difficile: cosa si fa con qualcosa che non è contro di te e sta comunque rovinandoti la vita?
Domande frequenti
Questo assolve gli sviluppatori?
Il contrario. Rimuovere la malizia della macchina riporta la responsabilità su chi ha specificato, distribuito e tratto profitto dal sistema.
The Unread esce inizialmente in inglese. Al momento non sono state annunciate edizioni tradotte.
Registro lettori