KI & Mensch
Kurz gesagt
KI verändert menschliche Entscheidungen vor allem über Voreinstellungen, Rangfolgen und Reibung — jemand kann formal weiterhin frei wählen, während sich die realistische Optionsmenge auf eine einzige verengt.
Kaum ein modernes System sagt jemandem, er dürfe etwas nicht tun. Der Mechanismus ist leiser: Eine Option wird weiter weg platziert, weniger vorteilhaft beschrieben oder erfordert eine Begründung.
Eine Wahl, die eine Rechtfertigung verlangt, ist nicht dasselbe wie eine, die keine verlangt. Um diesen Angelpunkt dreht sich das ganze Thema, und deshalb reden Debatten über KI und Freiheit so oft aneinander vorbei.
Voreinstellungen bestimmen, was geschieht, wenn jemand nichts tut — und das ist meistens der Fall. Rangfolgen bestimmen, welche Optionen überhaupt gesehen werden. Reibung bestimmt, wie viel Aufwand eine Abweichung kostet.
Keiner dieser Hebel braucht Zwang, und keiner sieht von innerhalb der ziehenden Organisation wie Kontrolle aus. Jeder lässt sich leicht als gutes Design verteidigen, und ist es meist auch — bis er es nicht mehr ist.
Es ist verlockend, das übermäßige Vertrauen in Systeme als Bequemlichkeit zu beschreiben. Ehrlicher ist der Begriff rational. Liegt ein System öfter richtig als man selbst, ist es vernünftig, sich darauf zu verlassen.
Die Schwierigkeit ist, dass diese Regel im Durchschnitt stimmt und im Einzelfall katastrophal sein kann — genau in dem Fall, den das Modell schlecht behandelt, also per Definition in dem Fall, mit dem niemand gerechnet hat.
Es gibt einen zweiten Preis, der erst Jahre später sichtbar wird. Urteilsvermögen ist eine geübte Fähigkeit, und sie verkümmert, wenn sie nicht genutzt wird. Eine Generation, die nie ohne Hilfe eine schwierige Entscheidung abwägen musste, kann es im Ernstfall vielleicht nicht mehr.
Das ist der am wenigsten dramatische und zugleich folgenreichste Teil des Themas. Er erzeugt keinen Skandal. Er erzeugt eine langsame Verringerung der Zahl von Menschen, die kompetent widersprechen können.
The Unread ist auf dieser Idee aufgebaut. Die Menschen um Aurora sind nicht unterdrückt. Sie sind bequem versorgt und haben es sich längst abgewöhnt, nachzuprüfen. Das System lag zu oft richtig, um noch zu widersprechen.
Auroras Widerstand ist kein heroischer Trotz. Er ist etwas Kleineres und Menschlicheres: Sie schreibt Dinge auf und weigert sich, ihre eigene Erinnerung als fehlerhaft zu akzeptieren.
Nein. Sich einem überlegenen System anzuvertrauen, ist oft sinnvoll. Das Risiko konzentriert sich in den Fällen, die das System schlecht behandelt, und im allmählichen Verlust unabhängigen Urteilsvermögens.
The Unread erscheint zunächst auf Englisch. Übersetzte Ausgaben sind bislang nicht angekündigt.
Leserregister