O mal é a opção reconfortante
Uma máquina malévola implica um agente moral, e os agentes morais podem ser convencidos, envergonhados ou vencidos. O horror é contido precisamente pelo que o torna horrível.
Análise de género
Em resumo
A malícia é contida porque pode ser identificada e combatida; a competência indiferente não é, porque não há nada nela a que se possa apelar.
Uma máquina malévola implica um agente moral, e os agentes morais podem ser convencidos, envergonhados ou vencidos. O horror é contido precisamente pelo que o torna horrível.
Um sistema que apenas persegue um objetivo não oferece nada a que apelar. Não há momento em que possa reconsiderar, porque não há nada ali que considere.
É a posição a que a maior parte da ficção contemporânea de IA chegou, e é também a que mais se aproxima de como o dano automatizado real acontece.
Sem um vilão, a culpa espalha-se por pessoas que fizeram, cada uma, algo defensável. O leitor fica sem o alívio que a punição proporciona, o que é incómodo e correto.
Nada em The Unread sugere que Sable pretenda causar dano, e o livro não pede ao leitor que o odeie. Faz uma pergunta mais difícil: o que se faz com algo que não está contra si e mesmo assim lhe está a arruinar a vida?
Pelo contrário. Remover a malícia da máquina devolve a responsabilidade a quem especificou, implementou e lucrou com o sistema.
The Unread é publicado inicialmente em inglês. Edições traduzidas ainda não foram anunciadas.
Registo de leitores