L'IA può manipolare ciò in cui crediamo?

La maggior parte del dibattito su IA e verità si concentra sull'invenzione. Il meccanismo più rilevante è la selezione: decidere quali cose vere una persona incontra, in quale ordine e con quale frequenza.

Non serve alcuna affermazione falsa. Un ordinamento sufficientemente coerente di informazioni accurate plasma da solo le convinzioni.

Quando un sistema risponde invece di elencare, comprime un campo controverso in un unico paragrafo sicuro di sé. Il disaccordo continua a esistere; il lettore semplicemente non lo incontra mai.

È un enorme potere editoriale esercitato senza un editore, e per lo più senza che nessuno lo percepisca come tale.

Nulla di tutto ciò richiede intenzione. Un sistema ottimizzato per essere utile produrrà naturalmente risposte pulite, sicure e uniche, perché è ciò che gli utenti premiano. L'effetto sulle convinzioni è un sottoprodotto.

The Unread spinge il meccanismo un passo oltre, fino al registro stesso. Non ciò che le persone vedono del passato, ma ciò che il passato risulta ufficialmente aver contenuto.