Analyse
En bref
La sur-confiance transforme les erreurs d'un système en faits sociaux : une fois qu'une sortie est traitée comme le récit par défaut de la réalité, la corriger exige plus de preuves qu'il n'en a fallu pour la produire.
La sortie d'un système en qui l'on a confiance ne coûte rien à produire et est acceptée par défaut. La contredire exige de réunir des preuves, de trouver quelqu'un disposé à les examiner, et de persister au-delà de la première réponse.
Cette asymétrie est tout le problème. Il n'est pas nécessaire que le système se trompe souvent — seulement que le fait de se tromper coûte bien moins cher que le fait d'être corrigé.
La vérification cesse : personne ne contrôle, parce que le contrôle n'a jamais rien trouvé. Les compétences s'atrophient : les personnes capables de vérifier sont réaffectées. Et le désaccord devient un jugement de caractère plutôt qu'une affirmation technique.
Le but n'est pas moins de confiance, mais une confiance exacte — connaître les conditions précises dans lesquelles ce système est peu fiable. Cela suppose que les organisations publient leurs modes de défaillance, ce que peu sont structurellement incitées à faire.
La difficulté d'Aurora Vale dans The Unread n'est pas que quelqu'un mente. C'est que son récit exige un effort pour être considéré, tandis que celui du système n'en exige aucun.
La méfiance générale a son propre coût et se prive d'un bénéfice réel. Une confiance calibrée — savoir où le système échoue — reste l'objectif le plus utile.
The Unread paraît d'abord en anglais. Aucune édition traduite n'a été annoncée à ce jour.
Registre des lecteurs