Ir al contenido

Artículo

¿Quién Responde Cuando un Sistema Automatizado se Equivoca?

  • Sección: Ética de la IA
  • Tiempo de lectura: 5 min de lectura
  • Actualizado: 17 de septiembre de 2026

En resumen

La responsabilidad se fragmenta entre quien especificó, quien desplegó, quien debía supervisar y quien operó, razón por la cual las personas afectadas rara vez encuentran a alguien con la autoridad y la obligación de corregirlo.

Cuatro lugares donde reside la responsabilidad

Quien especificó el objetivo. Quien decidió desplegarlo en este contexto. Quien debía supervisarlo. Y quien lo operó ese día.

Cada uno sostiene una fracción y cada uno puede señalar a los demás. Las fracciones no suman una persona a la que puedas dirigirte.

La brecha de la explicación

La rendición de cuentas normalmente exige saber por qué ocurrió algo. Cuando el personal no puede reconstruir el razonamiento, la organización no está siendo obstructiva, genuinamente no puede responder, lo cual es discutiblemente peor.

Cómo es una respuesta que funciona

Un cargo designado con autoridad para revocar resultados, una vía de apelación publicada con plazo, y un registro de reversiones que alguien tiene la obligación de revisar. Nada de esto es técnicamente difícil. Es organizativamente poco atractivo.

El caso ficticio

En The Unread, la ausencia de un destinatario es la situación misma. Nadie obstruye a Aurora. Simplemente no hay nadie cuyo trabajo consista en estar equivocado respecto a ella.

Preguntas frecuentes

¿Las regulaciones resuelven esto?

Algunos marcos exigen explicación y revisión humana. Que esos derechos sean eficaces en la práctica depende mucho de su cumplimiento, y eso varía.

The Unread se publica primero en inglés. Por el momento no se ha anunciado ninguna edición traducida.

Registro de lectores

Join The Unread

Privacidad