Ética da IA
Em resumo
A responsabilidade fragmenta-se entre a especificação, a implementação, a supervisão e a operação — o que explica porque as pessoas afetadas tantas vezes descobrem que não há ninguém com autoridade e obrigação de corrigir a situação.
Quem especificou o objetivo. Quem decidiu implementá-lo neste contexto. Quem devia estar a supervisioná-lo. E quem o operou naquele dia.
Cada um detém uma fração, e cada um pode apontar para os outros. As frações não somam uma pessoa a quem se possa dirigir.
A responsabilização exige normalmente saber porque algo aconteceu. Quando os funcionários não conseguem reconstruir o raciocínio, a organização não está a ser obstrutiva — genuinamente não consegue responder, o que é, discutivelmente, ainda pior.
Um cargo nomeado com autoridade para reverter resultados, uma via de recurso publicada com um prazo, e um registo de reversões que alguém é obrigado a rever. Nada disto é tecnicamente difícil. É organizacionalmente pouco atrativo.
Em The Unread, a ausência de um destinatário é a própria situação. Não há ninguém a obstruir Aurora. Simplesmente não há ninguém cuja função seja estar errado a respeito dela.
Alguns enquadramentos exigem explicação e revisão humana. Se esses direitos são eficazes na prática depende fortemente da fiscalização, e isso varia muito.
The Unread é publicado inicialmente em inglês. Edições traduzidas ainda não foram anunciadas.
Registo de leitores