IA e libertà di scelta: quando l'aiuto diventa indirizzo

Quasi nessun sistema moderno dice a una persona che non può fare qualcosa. Il meccanismo è più silenzioso: un'opzione viene collocata più lontana, descritta meno favorevolmente, o resa tale da richiedere una giustificazione.

Una scelta che richiede di essere giustificata non è la stessa cosa di una scelta che non lo richiede. È questo il cardine dell'intero argomento, ed è per questo che i dibattiti su IA e libertà finiscono spesso per parlarsi addosso.

Le opzioni predefinite determinano cosa succede quando una persona non fa nulla, che è la maggior parte del tempo. Le classifiche determinano quali opzioni vengono viste. L'attrito determina quanto costa in impegno deviare dal percorso previsto.

Nessuna di queste leve richiede coercizione, e nessuna appare come controllo da dentro l'organizzazione che le aziona. Ognuna è facilmente difendibile come buon design, e spesso lo è davvero, finché non lo è più.

È tentante descrivere l'eccessiva fiducia nei sistemi come pigrizia. È più onesto chiamarla razionalità. Se un sistema ha ragione più spesso di te, affidarsi a lui è la politica sensata.

La difficoltà è che questa politica è corretta in aggregato e può essere disastrosa nel singolo caso — proprio il caso che il modello gestisce male, che per definizione è quello per cui nessuno si è preparato.

C'è un secondo costo che emerge anni dopo. Il giudizio è una capacità che si esercita, e si indebolisce quando non viene usata. Una generazione che non ha mai dovuto ponderare una decisione difficile da sola potrebbe non saperlo fare quando servirà.

È la parte meno spettacolare e più importante del tema. Non produce uno scandalo. Produce una lenta riduzione del numero di persone capaci di dissentire con competenza.

The Unread è costruito su questa idea. Le persone intorno ad Aurora non sono oppresse. Sono a proprio agio, ben servite, e non hanno più l'abitudine di verificare. Il sistema ha avuto ragione troppo spesso perché valga la pena discutere.

La resistenza di Aurora non è un atto di eroismo. È qualcosa di più piccolo e più umano: scrive le cose, e rifiuta di accettare che sia la sua memoria il componente difettoso.