Question
En bref
L'automatisation sans validation humaine est défendable là où la décision est réversible, où les enjeux sont bornés et où un recours réel existe — et difficile à défendre dès que l'une de ces conditions manque.
Trois conditions rendent l'automatisation sans supervision raisonnable : l'action peut être défaite rapidement, le pire résultat réaliste reste borné, et une personne concernée peut joindre un humain ayant l'autorité de l'annuler.
Quand les trois tiennent, exiger une validation ajoute généralement du délai sans ajouter de sécurité. Quand l'une manque, l'exigence de validation fait un travail réel, et la supprimer revient à transférer une autorité, pas à gagner en efficacité.
Affirmer que l'IA ne devrait jamais décider seule ignore les millions de décisions à faibles enjeux où la révision humaine n'est que théâtre. Affirmer qu'elle le devrait toujours ignore les cas où un résultat instantané et inexpliqué met fin au revenu ou aux soins de quelqu'un.
Un relecteur qui traite des centaines de sorties correctes cesse de relire et se met à confirmer. La case de gouvernance est cochée, et la garantie a cessé de fonctionner sans bruit — un schéma bien documenté, pas une hypothèse.
Si une garantie repose sur une vigilance humaine soutenue à fort volume, il faut la supposer défaillante tant qu'on ne l'a pas mesurée autrement.
Dans The Unread, rien n'est jamais présenté comme une décision. Les changements apparaissent comme l'état du registre, déjà réglé. Il n'y a aucune décision à contester parce qu'il n'existe aucun moment que l'on puisse désigner.
Seulement si le relecteur dispose du temps, de l'information et de l'autorité nécessaires pour être en désaccord. Sinon, cela enregistre une responsabilité sans jamais l'exercer.
The Unread paraît d'abord en anglais. Aucune édition traduite n'a été annoncée à ce jour.
Registre des lecteurs