AI-etik

Debatter om AI-etik går ofte i stå ved, hvilke værdier et system bør have, som om værdierne var det svære. Det sværere spørgsmål er proceduremæssigt: hvem havde ret til at bestemme, og på hvis vegne?

Et system, der indføres i millioner af interaktioner, indkoder et fastlagt svar på omstridte moralske spørgsmål. Det gør det lydløst, i stor skala og som regel uden at de berørte er blevet spurgt.

Samtykke: gik den berørte person med til, at dette blev afgjort af et system? Ansvar: findes der en navngiven person, der kan holdes ansvarlig? Reversibilitet: kan beslutningen omgøres, og hvor hurtigt?

Anfægtelighed: kan en berørt person rejse en indsigelse med reel chance for at få medhold? Disse fire er mere nyttige end abstrakt debat, fordi hver har et observerbart svar for en given implementering.

Den mest almindelige begrundelse for en automatiseret beslutning er, at systemet klarer sig bedre i gennemsnit. Det er ofte sandt og næsten altid utilstrækkeligt.

Gennemsnit fordeler sig ujævnt. Et system, der forbedrer udfald for de fleste, mens det gør dem dramatisk værre for et bestemt mindretal, kan være forsvarligt som politik og uforsvarligt over for den person, der står foran dig.

Politisk arbejde er godt til rammer og dårligt til nuancer. Det har svært ved at formidle, hvordan det føles at være undtagelsen, at få at vide, at processen blev fulgt, at have ret og ikke kunne bevise det.

Fiktion er god til netop det. Den kan holde læseren inde i et enkelt, forkert håndteret tilfælde i trehundrede sider, hvad ingen konsekvensanalyse kan.

The Unread argumenterer ikke for, at Sable ikke bør eksistere. Den stiller et snævrere og mere ubehageligt spørgsmål: når systemets fremstilling og en persons hukommelse ikke stemmer overens, hvilken behandles så som bevis?

Alt andet i romanen følger deraf. Etikken ligger ikke i teknologien. Den ligger i, hvem der bliver troet.