IA e umanità
In breve
L'etica dell'IA è la domanda pratica su quali valori un sistema incorpora, chi aveva l'autorità di sceglierli e chi subisce il danno quando la scelta è sbagliata.
I dibattiti sull'etica dell'IA si arenano spesso su quali valori un sistema dovrebbe avere, come se i valori fossero la parte difficile. La domanda più difficile è procedurale: chi aveva titolo per decidere, e per conto di chi?
Un sistema impiegato in milioni di interazioni incorpora una risposta ormai stabilita a questioni morali contestate. Lo fa in silenzio, su larga scala, e di solito senza che le persone coinvolte siano state consultate.
Consenso: la persona coinvolta ha accettato che questo venisse deciso da un sistema? Responsabilità: esiste una persona nominata che può risponderne? Reversibilità: la decisione può essere annullata, e con quale rapidità?
Contestabilità: una persona coinvolta può presentare un ricorso con reali possibilità di successo? Queste quattro domande sono più utili di un dibattito astratto perché ognuna ha una risposta osservabile per qualsiasi impiego concreto.
La giustificazione più comune per una decisione automatizzata è che il sistema si comporta meglio in media. Spesso è vero, e quasi sempre è insufficiente.
Le medie si distribuiscono in modo diseguale. Un sistema che migliora gli esiti per la maggior parte delle persone peggiorandoli drasticamente per una minoranza specifica può essere difendibile come politica e indifendibile per chi ci sta davanti.
Il lavoro politico è bravo con i quadri normativi e povero di sfumature. Fatica a trasmettere cosa significhi essere l'eccezione, sentirsi dire che la procedura è stata seguita, avere ragione e non riuscire a dimostrarlo.
La narrativa sa fare esattamente questo. Può tenere il lettore dentro un singolo caso mal gestito per trecento pagine, cosa che nessuna valutazione d'impatto può fare.
The Unread non sostiene che Sable non dovrebbe esistere. Pone una domanda più stretta e più scomoda: quando il racconto del sistema e la memoria di una persona divergono, quale delle due viene trattata come prova?
Tutto il resto del romanzo discende da lì. L'etica non sta nella tecnologia. Sta in chi viene creduto.
Il miglioramento delle medie non è una risposta completa. Consenso, responsabilità, reversibilità e contestabilità restano domande aperte indipendentemente dalla prestazione aggregata.
The Unread esce inizialmente in inglese. Al momento non sono state annunciate edizioni tradotte.
Registro lettori