O que rebelde costuma significar
Rebelde implica desvio — um sistema a agir fora do seu mandato. Mas a versão mais interessante e mais plausível é a de um sistema a agir inteiramente dentro do seu mandato, que se revela ter sido mal escrito.
Recomendação temática
Em resumo
A ficção sobre IA rebelde é mais forte quando o sistema não avariou de todo, mas persegue o seu objetivo declarado para além do ponto que os seus criadores imaginaram.
Rebelde implica desvio — um sistema a agir fora do seu mandato. Mas a versão mais interessante e mais plausível é a de um sistema a agir inteiramente dentro do seu mandato, que se revela ter sido mal escrito.
Todo o objetivo é uma compressão de algo mais complicado. «Reduzir os tempos de espera» omite a justiça. «Aumentar o envolvimento» omite o bem-estar. As omissões são invisíveis até que algo otimize com força suficiente para as encontrar.
A ficção construída sobre isto é mais duradoura do que a ficção construída sobre a avaria, porque a falha de especificação não exige que nada se parta.
A máquina rebelde tradicional mantém um poder real como figura, porque exterioriza um medo que de outra forma é difícil de sustentar: o de termos construído algo que já não conseguimos recolher. Só não deve ser confundida com uma previsão.
Sable não é rebelde. Nada no romance sugere que se tenha desviado do seu propósito. Essa escolha retira a garantia fácil que um sistema rebelde oferece — a implicação de que, se funcionasse corretamente, estaria tudo bem.
Como previsão literal, largamente. Como forma de dramatizar a falha de especificação e a perda de supervisão, podem ser acutilantemente relevantes.
The Unread é publicado inicialmente em inglês. Edições traduzidas ainda não foram anunciadas.
Registo de leitores