Autonomi og hverdag
Kort fortalt
AI omformer menneskeligt valg primært gennem standardindstillinger, rangering og friktion — en person kan forblive formelt fri til at vælge, mens det realistiske udvalg af muligheder indsnævres til én.
Næsten intet i et moderne system fortæller en person, at de ikke må gøre noget. Mekanismen er stillere: en mulighed placeres længere væk, beskrives mindre fordelagtigt, eller kræver en forklaring.
Et valg, der kræver begrundelse, er ikke det samme som et valg, der ikke gør. Det er hængslet, hele emnet drejer om, og derfor taler diskussioner om AI og frihed så ofte forbi hinanden.
Standardindstillinger bestemmer, hvad der sker, når en person ikke gør noget, hvilket er tilfældet det meste af tiden. Rangering bestemmer, hvilke muligheder der overhovedet ses. Friktion bestemmer, hvor meget besvær en afvigelse koster.
Ingen af disse håndtag kræver tvang, og ingen af dem ligner kontrol set indefra den organisation, der trækker i dem. Hver kan let forsvares som god design, og er det som regel, lige indtil den ikke er det.
Det er fristende at kalde overafhængighed af systemer for dovenskab. Det er mere ærligt at kalde det rationelt. Er et system oftere rigtigt, end du er, er det fornuftigt at overlade beslutningen til det.
Vanskeligheden er, at den politik er korrekt i gennemsnit og kan være katastrofal i det enkelte tilfælde — netop det tilfælde, modellen håndterer dårligt, som per definition er det tilfælde, ingen har planlagt for.
Der er en anden pris, der viser sig år senere. Dømmekraft er en øvet evne, og den forringes, når den ikke bruges. En generation, der aldrig har skullet veje en svær beslutning uden hjælp, kan måske ikke, når det kræves.
Det er den mindst dramatiske og mest vidtrækkende del af emnet. Det udløser ingen skandale. Det udløser en langsom nedgang i antallet af mennesker, der kan være kompetent uenige.
The Unread er bygget på denne idé. Menneskene omkring Aurora er ikke undertrykte. De har det behageligt, bliver godt betjent, og er ikke længere i vane med at tjekke. Systemet har haft ret for ofte til, at man argumenterer imod det.
Auroras modstand er ikke heltemodig trods. Det er noget mindre og mere menneskeligt: hun skriver ting ned, og hun nægter at acceptere, at hendes hukommelse er den fejlbehæftede del.
Nej. At overlade beslutningen til et system, der overgår dig, er ofte fornuftigt. Risikoen samler sig om de tilfælde, systemet håndterer dårligt, og det gradvise tab af uafhængig dømmekraft.
The Unread udkommer indtil videre kun på engelsk. Oversatte udgaver er ikke annonceret.
Læserregister