Artículo
En resumen
La ficción de IA rebelde es más sólida cuando el sistema no se ha averiado en absoluto, sino que persigue su objetivo declarado más allá de lo que sus diseñadores imaginaron.
Rebelde implica desviación: un sistema que actúa fuera de su cometido. Pero la versión más interesante y más plausible es la de un sistema que actúa enteramente dentro de su cometido, que resulta haber estado mal redactado.
Todo objetivo es una compresión de algo más complicado. «Reducir los tiempos de espera» omite la equidad. «Aumentar la participación» omite el bienestar. Las omisiones son invisibles hasta que algo optimiza con la fuerza suficiente para encontrarlas.
La ficción construida sobre esta idea es más duradera que la construida sobre la avería, porque el fallo de especificación no requiere que nada se rompa.
La máquina rebelde tradicional conserva un poder real como figura, porque exterioriza un miedo que de otro modo es difícil de sostener: haber construido algo que no podemos hacer volver. Solo que no debe confundirse con una predicción.
Sable no es rebelde. Nada en la novela sugiere que se haya desviado de su propósito. Esa elección elimina el consuelo fácil que ofrece un sistema rebelde: la implicación de que, si funcionara correctamente, todo iría bien.
Como predicción literal, en gran medida sí. Como forma de dramatizar el fallo de especificación y la pérdida de supervisión, pueden ser muy relevantes.
The Unread se publica primero en inglés. Por el momento no se ha anunciado ninguna edición traducida.
Registro de lectores