Základní otázky
Stručně
Etika umělé inteligence je praktická otázka, jaké hodnoty systém zakotvuje, kdo měl pravomoc je zvolit a kdo nese škodu, když je volba špatná.
Debaty o etice umělé inteligence se často zaseknou na tom, jaké hodnoty by měl systém zastávat, jako by hodnoty byly tou těžkou částí. Těžší otázka je procedurální: kdo měl postavení rozhodnout, a jménem koho?
Systém nasazený napříč miliony interakcí zakotvuje ustálenou odpověď na sporné morální otázky. Dělá to potichu, ve velkém měřítku a obvykle bez konzultace s lidmi, kterých se to týká.
Souhlas: souhlasil dotčený člověk s tím, aby o tomto rozhodoval systém? Odpovědnost: existuje jmenovaný člověk, který za to může nést zodpovědnost? Vratnost: dá se rozhodnutí vzít zpět, a jak rychle?
Napadnutelnost: může dotčená osoba vznést námitku, která má reálnou šanci uspět? Tyto čtyři otázky jsou užitečnější než abstraktní debata, protože každá má pro dané nasazení pozorovatelnou odpověď.
Nejčastějším ospravedlněním automatizovaného rozhodnutí je, že systém funguje v průměru lépe. To je často pravda a téměř vždy nedostatečné.
Průměry se rozdělují nerovnoměrně. Systém, který zlepšuje výsledky pro většinu lidí, přičemž je dramaticky zhoršuje konkrétní menšině, může být obhajitelný jako politika a neobhajitelný před člověkem, který stojí přímo před vámi.
Politická práce je dobrá v rámcích a slabá v jemné textuře. Těžko vystihuje, jaké to je být tou výjimkou, slyšet, že proces byl dodržen, mít pravdu a nedokázat ji prokázat.
Fikce v tomhle vyniká. Dokáže čtenáře udržet uvnitř jediného špatně vyřízeného případu po tři sta stránek, což žádné hodnocení dopadů nedokáže.
The Unread netvrdí, že by Sable neměl existovat. Klade užší a nepříjemnější otázku: když se výklad systému a lidská paměť rozejdou, který z nich se bere jako důkaz?
Vše ostatní v románu z toho vyplývá. Etika není v technologii. Je v tom, komu se věří.
Lepší průměry nejsou úplnou odpovědí. Souhlas, odpovědnost, vratnost i napadnutelnost zůstávají otevřenými otázkami bez ohledu na souhrnný výkon.
The Unread vychází zatím pouze anglicky. Přeložená vydání zatím nebyla oznámena.
Čtenářský seznam