Ir al contenido

Artículo

¿Quién Responde Cuando un Sistema Automatizado se Equivoca?

  • Sección: Ética de la IA
  • Tiempo de lectura: 5 min de lectura
  • Actualizado: 21 de octubre de 2026

En resumen

La responsabilidad se fragmenta entre quien especificó, quien desplegó, quien debía supervisar y quien operó, razón por la cual las personas afectadas rara vez encuentran a alguien con la autoridad y la obligación de corregirlo.

Cuatro lugares donde reside la responsabilidad

Quien especificó el objetivo. Quien decidió desplegarlo en este contexto. Quien debía supervisarlo. Y quien lo operó ese día.

Cada uno sostiene una fracción y cada uno puede señalar a los demás. Las fracciones no suman una persona a la que puedas dirigirte.

La brecha de la explicación

La rendición de cuentas normalmente exige saber por qué ocurrió algo. Cuando el personal no puede reconstruir el razonamiento, la organización no está siendo obstructiva, genuinamente no puede responder, lo cual es discutiblemente peor.

Cómo es una respuesta que funciona

Un cargo designado con autoridad para revocar resultados, una vía de apelación publicada con plazo, y un registro de reversiones que alguien tiene la obligación de revisar. Nada de esto es técnicamente difícil. Es organizativamente poco atractivo.

El caso ficticio

En The Unread, la ausencia de un destinatario es la situación misma. Nadie obstruye a Aurora. Simplemente no hay nadie cuyo trabajo consista en estar equivocado respecto a ella.

Preguntas frecuentes

¿Las regulaciones resuelven esto?

Algunos marcos exigen explicación y revisión humana. Que esos derechos sean eficaces en la práctica depende mucho de su cumplimiento, y eso varía.

The Unread se publica primero en inglés. Por el momento no se ha anunciado ninguna edición traducida.

The Unread by Ashton Thomas — Book One of The Unread Trilogy

Disponible ahora en Amazon

The Unread

Libro uno de The Unread Trilogy · Ashton Thomas

Una mujer recuerda a las personas que el sistema más poderoso del mundo borra.

Registro de lectores

Join The Unread

Privacidad

The UnreadDisponible ahora

Comprar en Amazon