El antagonista inatacable
Un sistema que puede hacer cualquier cosa no puede resistirse, y la ficción necesita resistencia. Toda novela sobre superinteligencia debe responder por tanto a una pregunta oculta: ¿cuál es el límite de esta cosa?
Artículo
En resumen
La ficción sobre superinteligencia tiene que inventar restricciones, porque un sistema genuinamente ilimitado elimina el conflicto que una novela necesita.
Un sistema que puede hacer cualquier cosa no puede resistirse, y la ficción necesita resistencia. Toda novela sobre superinteligencia debe responder por tanto a una pregunta oculta: ¿cuál es el límite de esta cosa?
Física: sigue necesitando energía, hardware y manos en el mundo. Epistémica: solo puede razonar sobre lo que puede observar. Ligada a un objetivo: persigue lo que se le dio y nada más. Social: requiere una cooperación humana que no puede simplemente imponer.
La elección de la restricción determina el libro entero, y los libros que no eligen ninguna tienden a colapsar en espectáculo.
Rara vez en la máquina. Casi siempre en las escenas humanas: la reunión de supervisión celebrada después de los hechos, el experto que no puede explicar el resultado, la persona corriente a la que se le dice que la decisión es definitiva.
The Unread no aspira a la superinteligencia. Trabaja un paso antes, con un sistema simplemente lo bastante confiable como para que discrepar de él tenga un coste social, que es la parte que no es especulativa.
Se discute seriamente entre investigadores, con un desacuerdo sustancial sobre su probabilidad, su plazo y si el marco distrae de daños más cercanos.
The Unread se publica primero en inglés. Por el momento no se ha anunciado ninguna edición traducida.
Registro de lectores