Grundlagen
Kurz gesagt
KI-Ethik ist die praktische Frage, welche Werte ein System kodiert, wer die Befugnis hatte, sie auszuwählen, und wer den Schaden trägt, wenn die Wahl falsch war.
Debatten über KI-Ethik verharren oft bei der Frage, welche Werte ein System haben sollte, als wären die Werte das Schwierige. Die härtere Frage ist verfahrensmäßig: Wer hatte die Befugnis zu entscheiden, und in wessen Namen?
Ein System, das über Millionen Interaktionen eingesetzt wird, kodiert eine festgelegte Antwort auf umstrittene moralische Fragen. Es tut das lautlos, in großem Maßstab, meist ohne die Betroffenen zu befragen.
Zustimmung: Hat die betroffene Person zugestimmt, dass darüber ein System entscheidet? Verantwortlichkeit: Gibt es eine namentlich benannte Person, die zur Rechenschaft gezogen werden kann? Umkehrbarkeit: Lässt sich die Entscheidung rückgängig machen, und wie schnell?
Anfechtbarkeit: Kann eine betroffene Person einen Widerspruch einlegen, der realistische Erfolgsaussichten hat? Diese vier sind nützlicher als abstrakte Debatte, weil jede für jeden konkreten Einsatz eine beobachtbare Antwort hat.
Die häufigste Rechtfertigung für eine automatisierte Entscheidung ist, das System schneide im Durchschnitt besser ab. Das stimmt oft und reicht fast nie.
Durchschnitte verteilen sich ungleich. Ein System, das die Ergebnisse für die meisten verbessert und sie für eine bestimmte Minderheit dramatisch verschlechtert, kann als Politik vertretbar und der Person gegenüber, die davor steht, unhaltbar sein.
Politikarbeit ist gut in Rahmenwerken und schwach in Textur. Sie tut sich schwer damit zu vermitteln, wie es sich anfühlt, die Ausnahme zu sein, zu hören, das Verfahren sei eingehalten worden, im Recht zu sein und es nicht zeigen zu können.
Fiktion kann genau das. Sie kann die Leserin dreihundert Seiten lang in einem einzigen falsch behandelten Fall festhalten, was keine Folgenabschätzung leisten kann.
The Unread argumentiert nicht, Sable dürfe nicht existieren. Es stellt eine engere, unbequemere Frage: Wenn die Darstellung des Systems und die Erinnerung eines Menschen auseinanderlaufen, welche gilt als Beweis?
Alles Weitere im Roman folgt daraus. Die Ethik liegt nicht in der Technologie. Sie liegt darin, wem geglaubt wird.
Bessere Durchschnittswerte sind keine vollständige Antwort. Zustimmung, Verantwortlichkeit, Umkehrbarkeit und Anfechtbarkeit bleiben offene Fragen, unabhängig von der Gesamtleistung.
The Unread erscheint zunächst auf Englisch. Übersetzte Ausgaben sind bislang nicht angekündigt.
Leserregister