Ética da IA
Em resumo
Sim. Uma melhoria nos resultados agregados pode ser antiética se foi imposta sem consentimento, esconde as suas contrapartidas ou concentra o custo em pessoas que nunca foram consultadas.
A justificação habitual para um sistema automatizado é que os resultados melhoraram em geral. É normalmente verdade, e não é um argumento ético completo, porque a ética também se preocupa com a forma como um resultado foi alcançado e quem suportou o custo.
Consentimento: a melhoria foi aplicada a pessoas que não foram consultadas e não podem recusar. Distribuição: a média subiu enquanto os resultados de um grupo específico caíram acentuadamente. Opacidade: a contrapartida foi tornada invisível, e por isso não pôde ser contestada.
Porque os números estão do outro lado, e são legíveis. Objetar significa argumentar contra uma melhoria medida com uma alegação sobre o processo, o que soa abstrato ao lado de um gráfico.
Esta assimetria é uma das razões por que a ficção é útil aqui: um romance pode colocar o leitor dentro da distribuição, e não acima dela.
Sable tornou a vida mensuravelmente melhor, e o livro não finge o contrário. É isso que torna a pergunta afiada, e não sentimental.
Não. É um argumento de que a eficiência é apenas uma entre várias considerações, e que o consentimento e a possibilidade de contestação não desaparecem porque os números melhoraram.
The Unread é publicado inicialmente em inglês. Edições traduzidas ainda não foram anunciadas.
Registo de leitores