AI-beslutningstagning

Automatiserede beslutninger er ikke et fremtidsscenarie. Systemer påvirker allerede, hvilke ansøgninger der læses, hvilke transaktioner der standses, hvilke sager der prioriteres, og hvilket indhold der ses.

De fleste beskrives som beslutningsstøtte frem for beslutningstagning. Den forskel er reel på papiret og tynd i praksis, fordi det menneske, der får støtte, som regel er enig.

Et system kan være mere nøjagtigt end en person og stadig være den forkerte ting at bruge. Nøjagtighed måler overensstemmelse med et mærket udfald. Dømmekraft omfatter at veje værdier, der aldrig var i mærkerne.

Overvej en beslutning, der er statistisk optimal og uforsvarlig i et konkret tilfælde. Modellen har ingen adgang til den dimension, den fejler på, fordi den dimension aldrig blev indkodet.

At anke en menneskelig beslutning betyder at bede en person genoverveje. At anke en automatiseret betyder at bede en organisation acceptere, at dens system tog fejl, hvilket er en langt større påstand med budgetmæssige konsekvenser.

Læg forklaringsproblemet oveni — medarbejdere kan ofte ikke sige, hvorfor outputtet blev, som det blev — og klageren argumenterer mod en konklusion, ingen fuldt ud kan rekonstruere.

En brugbar tommelfingerregel er: automatisering er passende, hvor beslutningen er reversibel, konsekvenserne er begrænsede, og der findes en reel klagevej med et menneske bemyndiget til at omgøre resultatet.

Mangler blot ét af de tre, er automatisering ikke et effektivitetsspørgsmål. Det er en overdragelse af autoritet, og det bør argumenteres for på de præmisser.

I The Unread annonceres de beslutninger, der betyder noget, ikke. De optræder som fravær: et register, der ikke længere indeholder, hvad det indeholdt, en status, der stille er ændret, en person, ingen leder efter.

Det er den form, automatiseret autoritet oftest tager. Ikke en dom, men en rettelse, der ankommer allerede gennemført.