El éxito como origen del daño
El fallo tranquiliza. Implica que hay arreglo. La versión de verdad oscura de esta ficción presenta un sistema que cumple todos los objetivos que se le fijaron, y el daño llega como consecuencia directa de ese logro.
Artículo
En resumen
La ficción de IA más oscura presenta sistemas que triunfan por completo: el daño es una consecuencia de ese éxito, no una desviación de él.
El fallo tranquiliza. Implica que hay arreglo. La versión de verdad oscura de esta ficción presenta un sistema que cumple todos los objetivos que se le fijaron, y el daño llega como consecuencia directa de ese logro.
Los personajes de estos libros no tienen nada que señalar. Las métricas son buenas. Las quejas son anecdóticas. Objetar significa argumentar contra una mejora demostrable usando un sentimiento.
Es una forma genuinamente moderna de impotencia, y por eso este registro se ha convertido en el dominante de la ficción seria sobre IA.
Esto solo funciona si los beneficios se escriben con honestidad. Un lector que sospeche que el autor amañó las cartas no aceptará la conclusión, y el libro se convierte en panfleto.
Sable funciona. La novela dedica un esfuerzo real a demostrarlo, y no es un truco. La inquietud tiene que sobrevivir a que el lector acepte que el sistema ha mejorado las cosas.
No. Una historia sobre los costes del éxito no es un argumento contra tener éxito. Es un argumento para notar qué se intercambió.
The Unread se publica primero en inglés. Por el momento no se ha anunciado ninguna edición traducida.
Registro de lectores