Artículo
En resumen
El exceso de confianza convierte los errores de un sistema en hechos sociales: una vez que un resultado se trata como el relato por defecto de la realidad, corregirlo exige más pruebas de las que exigió producirlo.
El resultado de un sistema en el que se confía no cuesta nada producir y se acepta por defecto. Contradecirlo exige reunir pruebas, encontrar a alguien dispuesto a revisarlas y persistir más allá de la respuesta inicial.
Esa asimetría es todo el problema. No hace falta que el sistema se equivoque a menudo, solo que el proceso de equivocarse sea mucho más barato que el proceso de corregirlo.
La verificación se detiene: nadie comprueba porque comprobar nunca encontró nada. Las capacidades se atrofian: a las personas que podrían verificar se las reasigna. Y la discrepancia pasa a juzgarse como un rasgo de carácter y no como una afirmación técnica.
El objetivo no es menos confianza sino confianza precisa: conocer las condiciones concretas en las que este sistema no es fiable. Eso exige que las organizaciones publiquen sus modos de fallo, algo para lo que pocas están estructuralmente motivadas.
La dificultad de Aurora Vale en The Unread no es que alguien mienta. Es que su relato exige esfuerzo para considerarlo, y el relato del sistema no exige ninguno.
La desconfianza total tiene sus propios costes y desperdicia beneficios reales. La confianza calibrada, saber dónde falla el sistema, es el objetivo más útil.
The Unread se publica primero en inglés. Por el momento no se ha anunciado ninguna edición traducida.
Registro de lectores