Autonomia decyzji
W skrócie
Sztuczna inteligencja przekształca ludzki wybór głównie poprzez ustawienia domyślne, rankingi i tarcie — osoba może formalnie zachować wolność wyboru, podczas gdy realny zestaw opcji zwęża się do jednej.
Niemal nic we współczesnym systemie nie mówi wprost, że danej rzeczy nie wolno zrobić. Mechanizm jest cichszy: opcja zostaje umieszczona dalej, opisana mniej korzystnie albo wymaga uzasadnienia.
Wybór wymagający uzasadnienia to nie to samo co wybór, który go nie wymaga. To zawias, na którym obraca się cały temat, i dlatego spory o SI i wolność tak często mijają się w argumentacji.
Ustawienia domyślne decydują, co się dzieje, gdy dana osoba nic nie robi, a to zdarza się najczęściej. Rankingi decydują, które opcje w ogóle są widoczne. Tarcie decyduje, ile wysiłku kosztuje odstępstwo.
Żadna z tych dźwigni nie wymaga przymusu i żadna nie wygląda jak kontrola z perspektywy organizacji, która nią porusza. Każdą łatwo obronić jako dobry projekt — i zwykle rzeczywiście nim jest, dopóki nim nie przestaje być.
Kuszące jest nazwanie nadmiernego polegania na systemach lenistwem. Uczciwiej nazwać to racjonalnością. Jeśli system myli się rzadziej niż my, poleganie na nim jest sensowną strategią.
Trudność w tym, że ta strategia jest słuszna łącznie i może być katastrofalna w pojedynczym przypadku — właśnie tym, z którym model radzi sobie źle, czyli z definicji tym, na który nikt się nie przygotował.
Jest drugi koszt, który ujawnia się latami później. Osąd to praktyczna umiejętność i zanika, gdy się jej nie używa. Pokolenie, które nigdy nie musiało samodzielnie ważyć trudnej decyzji, może nie potrafić tego zrobić, gdy zajdzie taka potrzeba.
To najmniej dramatyczna i najbardziej brzemienna w skutki część tematu. Nie kończy się skandalem. Prowadzi do powolnego zmniejszania się liczby ludzi zdolnych do kompetentnego sprzeciwu.
The Unread jest zbudowany na tej idei. Ludzie wokół Aurory nie są uciskani. Są zadowoleni, dobrze obsłużeni i dawno wyszli z nawyku sprawdzania. System zbyt wiele razy miał rację, by się z nim spierać.
Opór Aurory to nie heroiczny bunt. To coś mniejszego i bardziej ludzkiego: zapisuje rzeczy i odmawia przyjęcia, że to jej pamięć jest wadliwym elementem.
Nie. Oddawanie decyzji systemowi, który osiąga lepsze wyniki niż my, bywa rozsądne. Ryzyko koncentruje się w przypadkach, z którymi system radzi sobie słabo, oraz w stopniowej utracie samodzielnego osądu.
The Unread ukazuje się najpierw po angielsku. Przekłady nie zostały dotąd zapowiedziane.
Rejestr czytelników