Darf KI ohne menschliche Zustimmung entscheiden?

Drei Bedingungen machen unbeaufsichtigte Automatisierung vertretbar: Die Handlung lässt sich rasch rückgängig machen, das schlimmste realistische Ergebnis ist begrenzt, und eine betroffene Person kann eine Instanz mit der Befugnis erreichen, sie umzukehren.

Sind alle drei erfüllt, fügt eine Zustimmungspflicht meist nur Verzögerung hinzu, ohne Sicherheit zu erhöhen. Fehlt eine davon, leistet die Zustimmungspflicht echte Arbeit, und sie zu entfernen ist eine Machtverschiebung, keine Effizienzgewinn.

Wer behauptet, KI dürfe niemals allein entscheiden, übersieht die Millionen risikoarmer Entscheidungen, bei denen menschliche Prüfung reine Kulisse ist. Wer behauptet, sie dürfe es immer, übersieht die Fälle, in denen ein sofortiges, unerklärtes Ergebnis jemandem Einkommen oder Versorgung nimmt.

Eine Person, die hunderte korrekte Ergebnisse prüft, hört auf zu prüfen und beginnt nur noch zu bestätigen. Das Kästchen der Governance ist abgehakt, und die Schutzmaßnahme funktioniert längst nicht mehr — ein gut dokumentiertes Muster, kein Gedankenspiel.

Hängt eine Schutzmaßnahme von anhaltender menschlicher Wachsamkeit bei hohem Volumen ab, sollte man annehmen, dass sie versagt, solange nichts anderes gemessen wurde.

In The Unread wird nie etwas als Entscheidung dargestellt. Änderungen erscheinen als der Zustand der Akte, bereits festgelegt. Es gibt keine Zustimmung, die sich anfechten ließe, weil es keinen Moment gibt, auf den man zeigen könnte.