Toma de Decisiones de la IA

Las decisiones automatizadas no son un escenario futuro. Ya influyen en qué solicitudes se leen, qué transacciones se retienen, qué casos se priorizan y qué contenido se muestra.

La mayoría se describen como apoyo a la decisión y no como toma de decisiones. Esa distinción es real sobre el papel y muy delgada en la práctica, porque la persona apoyada suele estar de acuerdo.

Un sistema puede ser más preciso que una persona y aun así ser lo equivocado a usar. La precisión mide la coincidencia con un resultado etiquetado. El buen juicio incluye sopesar valores que nunca estuvieron en las etiquetas.

Piensa en una decisión estadísticamente óptima y a la vez inaceptable en un caso concreto. El modelo no tiene acceso a la dimensión en la que está fallando, porque esa dimensión nunca se codificó.

Apelar una decisión humana significa pedirle a una persona que reconsidere. Apelar una automatizada significa pedirle a una organización que acepte que su sistema se equivocó, una afirmación mucho más grande y con implicaciones presupuestarias.

Añade el problema de la explicación, el personal a menudo no puede decir por qué el resultado fue el que fue, y quien apela discute contra una conclusión que nadie puede reconstruir del todo.

Una línea razonable es esta: la automatización es apropiada cuando la decisión es reversible, lo que está en juego es acotado, y existe una vía de apelación real con una persona facultada para revocar el resultado.

Cuando falta cualquiera de las tres condiciones, la automatización deja de ser una cuestión de eficiencia. Es una transferencia de autoridad, y debería defenderse en esos términos.

En The Unread, las decisiones que importan no se anuncian. Aparecen como ausencias: un registro que ya no contiene lo que contenía, un estatus que ha cambiado en silencio, una persona a la que nadie busca.

Esa es la forma que más a menudo adopta la autoridad automatizada. No un veredicto, sino una corrección que llega ya aplicada.