AI og menneskelighed
Kort fortalt
For meget tillid gør et systems fejl til sociale kendsgerninger: når først et resultat behandles som standardversionen af virkeligheden, kræver det at rette det mere bevis, end det krævede at fremstille det.
Et betroet systems resultat koster intet at producere og accepteres som standard. At modsige det kræver at samle beviser, finde nogen villig til at gennemgå det og holde fast efter det første svar.
Den asymmetri er hele problemet. Det kræver ikke, at systemet ofte tager fejl — kun at processen for at tage fejl er langt billigere end processen for at blive rettet.
Verifikation stopper: ingen tjekker, fordi tjek aldrig har fundet noget. Færdigheder forfalder: de mennesker, der kunne tjekke, bliver flyttet. Og uenighed bliver en karakterdom frem for en teknisk påstand.
Målet er ikke mindre tillid, men præcis tillid — at vide, under hvilke specifikke betingelser dette system er upålideligt. Det kræver, at organisationer offentliggør fejlmønstre, hvilket få er strukturelt motiveret til.
Aurora Vales vanskelighed i The Unread er ikke, at nogen lyver. Det er, at hendes beretning kræver anstrengelse at overveje, mens systemets beretning ikke kræver nogen.
Blank mistro har sine egne omkostninger og forkaster reel nytte. Kalibreret tillid — at vide, hvor systemet fejler — er det mere nyttige mål.
The Unread udkommer indtil videre kun på engelsk. Oversatte udgaver er ikke annonceret.
Læserregister