AGI v literatuře: proč se tak těžko zobrazuje

Obecná umělá inteligence popisuje hypotetický systém, který dokáže přenášet schopnost mezi nesouvisejícími problémy — podobně jako člověk, který umí vařit, se může naučit i řídit auto. Je to tvrzení o šíři a přenositelnosti, ne o rychlosti nebo velikosti.

Zůstává hypotetická a seriózní odborníci se neshodnou, zda k ní současné přístupy vůbec vedou. Fikce, která zachází s AGI jako s dosaženým faktem, dělá spekulativní rozhodnutí, a poctivé knihy toto rozhodnutí zviditelňují, místo aby ho propašovaly bez povšimnutí.

Obecnost se dá jen stěží ukázat přímo. Autorka může zobrazit stroj, který vyhrává hru, diagnostikuje nemoc nebo skládá symfonii — ale každá ukázka je úzká a jejich hromadění nevystihuje samotnou podstatu věci.

Autoři proto sahají po náhražkách: systém překvapí své tvůrce, odmítne rámec nebo přeformuluje otázku, která mu byla položena. Jsou to zkratky, ale dobré, protože dramatizují přenositelnost, ne pouhou schopnost.

Většina románů o AGI nejsou předpovědi. Jsou to argumenty o institucích: o tom, zda je jakákoli lidská organizace strukturálně schopná dohlížet na něco, co nedokáže plně modelovat.

Proto se tolik z tohoto žánru odehrává v laboratořích, radách, výborech a dozorčích orgánech. Zajímavé selhání je procedurální. Nikdo neusnul u řízení; jen se ukáže, že volant není s ničím propojen.

První je tiché sklouznutí k vševědoucnosti, kdy se obecný systém nenápadně mění v systém, který ví vše, včetně věcí, které by žádná datová sada nemohla obsahovat. Druhá je okamžité převzetí moci, které přeskočí roky zavádění, kde se odehrává skutečný příběh.

Třetí je scéna doznání, kdy stroj plynně vysvětlí své motivy lidskými slovy. Je to uspokojivé a téměř vždy podvod, protože to promění cizí problém zpět na známý.

The Unread si nečiní nárok na AGI jako technický milník. Sable není zobrazen jako probuzená obecná mysl, ale jako systém, jehož dosah rostl rychleji než jakákoli schopnost jej prověřit.

Kniha se zajímá o společenskou verzi otázky AGI: v jakém bodě se systém stává něčím, co už smysluplně nedokážeme dohlížet, ať už mu říkáme jakkoli.