Página pilar
En resumen
La ética de la IA es la pregunta práctica sobre qué valores codifica un sistema, quién tuvo autoridad para elegirlos y quién carga con el daño cuando la elección resulta equivocada.
Los debates sobre ética de la IA suelen estancarse en qué valores debería sostener un sistema, como si los valores fueran lo difícil. La pregunta más difícil es procedimental: ¿quién tenía legitimidad para decidir, y en nombre de quién?
Un sistema desplegado en millones de interacciones codifica una respuesta fija a preguntas morales controvertidas. Lo hace en silencio, a gran escala, y por lo general sin que se haya consultado a las personas afectadas.
Consentimiento: ¿aceptó la persona afectada que esto lo decidiera un sistema? Responsabilidad: ¿existe una persona identificable a quien se le pueda pedir cuentas? Reversibilidad: ¿puede deshacerse la decisión, y con qué rapidez?
Impugnabilidad: ¿puede la persona afectada presentar un recurso con una posibilidad real de prosperar? Estas cuatro son más útiles que el debate abstracto porque cada una tiene una respuesta observable para cualquier implementación concreta.
La justificación más habitual de una decisión automatizada es que el sistema rinde mejor en promedio. Suele ser cierto y casi siempre insuficiente.
Los promedios se reparten de forma desigual. Un sistema que mejora los resultados para la mayoría mientras los empeora dramáticamente para una minoría concreta puede ser defendible como política y a la vez indefendible ante la persona que tienes delante.
El trabajo político es bueno para los marcos y flojo para la textura. Le cuesta transmitir lo que se siente al ser la excepción, al oír que se siguió el procedimiento, al tener razón sin poder demostrarlo.
La ficción es buena precisamente en eso. Puede mantener al lector dentro de un único caso mal gestionado durante trescientas páginas, algo que ningún estudio de impacto puede hacer.
The Unread no argumenta que Sable no debería existir. Plantea una pregunta más concreta y más incómoda: cuando el relato del sistema y la memoria de una persona divergen, ¿cuál de los dos se trata como prueba?
Todo lo demás en la novela se deriva de ahí. La ética no está en la tecnología. Está en a quién se cree.
Un promedio mejor no es una respuesta completa. El consentimiento, la responsabilidad, la reversibilidad y la impugnabilidad siguen siendo preguntas abiertas al margen del rendimiento agregado.
The Unread se publica primero en inglés. Por el momento no se ha anunciado ninguna edición traducida.
Registro de lectores