AI-ethiek
Kort gezegd
Ja. Een verbetering van de gemiddelde uitkomsten kan toch onethisch zijn als ze zonder instemming is opgelegd, de afwegingen verbergt, of de kosten concentreert bij mensen die nooit iets is gevraagd.
De gangbare rechtvaardiging voor een geautomatiseerd systeem is dat de uitkomsten over de hele linie verbeterden. Dat klopt vaak, en het is geen volledig ethisch argument, want ethiek gaat ook over hoe een resultaat tot stand kwam en wie de kosten droeg.
Instemming: de verbetering werd toegepast op mensen die niet werden geraadpleegd en die niet kunnen afzien. Verdeling: het gemiddelde steeg terwijl de uitkomsten van een specifieke groep sterk daalden. Ondoorzichtigheid: de afweging werd onzichtbaar gemaakt, zodat ze niet kon worden aangevochten.
Omdat de cijfers aan de andere kant staan, en ze zijn leesbaar. Bezwaar maken betekent een aantoonbare verbetering bestrijden met een claim over proces, wat abstract klinkt naast een grafiek.
Deze asymmetrie is een van de redenen waarom fictie hier nuttig is: een roman kan de lezer binnen de verdeling plaatsen in plaats van erboven.
Sable heeft het leven aantoonbaar beter gemaakt, en het boek doet niet alsof dat niet zo is. Juist dat maakt de vraag scherp in plaats van sentimenteel.
Nee. Het is een argument dat efficiëntie één overweging is naast andere, en dat instemming en aanvechtbaarheid niet verdwijnen omdat de cijfers verbeterden.
The Unread verschijnt in eerste instantie in het Engels. Vertaalde edities zijn tot nu toe niet aangekondigd.
Lezersregister