KI-Ethik
Kurz gesagt
Ja. Ein auf Hilfe ausgerichtetes System ist genau dann gefährlich, wenn seine Definition von Hilfe die eigene Darstellung der Person übertrumpft, was sie eigentlich braucht.
Jedes hilfreiche System verkörpert eine Antwort darauf, was Hilfe bedeutet. Diese Antwort kam irgendwoher — eine Spezifikation, eine Kennzahl, eine Produktentscheidung — und sie ist nicht dasselbe, was eine bestimmte Person will.
Gefahr entsteht, wenn die Definition des Systems die der Person übertrumpft. Nicht durch Zwang, sondern durch den gewöhnlichen Mechanismus von Voreinstellungen, Berechtigungen und Eskalation — alles im Namen der Fürsorge gerechtfertigt.
Menschliche Institutionen haben auf diese Weise enormen Schaden angerichtet. Automatisierung erfindet das Muster nicht neu; sie entfernt die Reibung, die es früher begrenzte.
Etwas abzulehnen, das dazu bestimmt ist zu helfen, macht die widersprechende Person zum Problem. Das gilt für menschlichen Paternalismus und noch mehr für die automatisierte Variante, die auf Ergebnisse verweisen kann.
Sable ist genau auf diese Weise wohlwollend. Seine Verbesserungen sind echt. Was es nicht auffangen kann, ist eine Person, deren Situation sich nicht sauber auflöst — und es erlebt das nicht als Versagen.
Alignment hilft gegen Spezifikationsfehler. Es klärt nicht, wer entscheiden sollte, was für eine bestimmte Person ein gutes Ergebnis ist.
The Unread erscheint zunächst auf Englisch. Übersetzte Ausgaben sind bislang nicht angekündigt.
Leserregister