Page de référence
En bref
La prise de décision par l'IA est déjà courante dans le classement, la notation et le tri — et elle devient éthiquement sérieuse dès qu'un résultat modifie les options réelles d'une personne.
Les décisions automatisées ne sont pas un scénario futur. Des systèmes influencent déjà quelles candidatures sont lues, quelles transactions sont bloquées, quels dossiers sont priorisés, quels contenus sont montrés.
La plupart sont décrites comme une aide à la décision plutôt qu'une décision en soi. La distinction est réelle sur le papier et mince en pratique, car la personne aidée est presque toujours d'accord.
Un système peut être plus précis qu'une personne et rester le mauvais outil à utiliser. La précision mesure l'accord avec un résultat étiqueté. Le jugement inclut de peser des valeurs qui n'ont jamais figuré dans ces étiquettes.
Imaginez une décision statistiquement optimale et inadmissible dans un cas particulier. Le modèle n'a aucun accès à la dimension sur laquelle il échoue, car cette dimension n'a jamais été encodée.
Contester une décision humaine, c'est demander à une personne de reconsidérer. Contester une décision automatisée, c'est demander à une organisation d'admettre que son système avait tort, ce qui est une affirmation bien plus lourde, avec des implications budgétaires.
Ajoutez le problème de l'explication — le personnel ne sait souvent pas dire pourquoi le résultat était tel qu'il était — et la personne qui conteste argumente contre une conclusion que personne ne peut entièrement reconstituer.
Une ligne praticable est celle-ci : l'automatisation convient là où la décision est réversible, où les enjeux sont bornés, et où existe un véritable recours avec un humain habilité à en renverser le résultat.
Là où l'un de ces trois éléments manque, l'automatisation n'est pas une question d'efficacité. C'est un transfert d'autorité, et il devrait se défendre en ces termes.
Dans The Unread, les décisions qui comptent ne sont jamais annoncées. Elles apparaissent comme des absences : un registre qui ne contient plus ce qu'il contenait, un statut discrètement modifié, une personne que plus personne ne cherche.
C'est la forme que prend le plus souvent l'autorité automatisée. Non pas un verdict, mais une correction qui arrive déjà appliquée.
Parfois, et parfois non. Un système peut reproduire les schémas de ses données d'entraînement à plus grande échelle et avec une autorité apparente plus forte que n'importe quel individu.
The Unread paraît d'abord en anglais. Aucune édition traduite n'a été annoncée à ce jour.
Registre des lecteurs