Ondskab er den trøstende mulighed
En ond maskine antyder en moralsk aktør, og moralske aktører kan overtales, ydmyges eller besejres. Rædslen indeslutes af netop det, der gør den rædselsfuld.
AI og menneskelighed
Kort fortalt
Ondskab kan indeslutes, for den kan identificeres og bekæmpes; ligegyldig dygtighed kan ikke indeslutes, for der er intet i den at appellere til.
En ond maskine antyder en moralsk aktør, og moralske aktører kan overtales, ydmyges eller besejres. Rædslen indeslutes af netop det, der gør den rædselsfuld.
Et system, der blot forfølger et mål, har intet at appellere til. Der er intet øjeblik, hvor det måske genovervejer, for der er intet, som overvejer.
Dette er den position, det meste nutidige AI-fiktion er landet på, og den er også den, der ligner den reelle måde, automatiseret skade opstår på, mest.
Uden en skurk spredes skylden ud over mennesker, der hver især gjorde noget forsvarligt. Læseren efterlades uden den lettelse, straf giver, hvilket er ubehageligt og korrekt.
Intet i The Unread antyder, at Sable har til hensigt at skade, og bogen beder ikke læseren om at hade det. Den stiller et sværere spørgsmål: hvad gør man ved noget, der ikke er imod en, og alligevel ødelægger ens liv?
Det modsatte. At fjerne maskinel ondskab lægger ansvaret tilbage hos dem, der specificerede, indførte og profiterede af systemet.
The Unread udkommer indtil videre kun på engelsk. Oversatte udgaver er ikke annonceret.
Læserregister