文学の中のAGI——なぜ描くのがこれほど難しいのか

汎用人工知能とは、無関係な問題の間で能力を移転できる仮説的なシステムを指す——料理ができる人が運転も学べるように。これは速度や規模についての主張ではなく、広さと転移可能性についての主張だ。

それはあくまで仮説にとどまっており、現在の手法がそこに到達するのかどうか、専門家の間でも真剣な意見の相違がある。AGIを達成済みの事実として扱う小説は、一つの空想的な選択をしているのであり、誠実な作品はその選択を隠さず見せる。

汎用性を直接示すことはほとんど不可能だ。作家はゲームに勝つ機械、病気を診断する機械、交響曲を書く機械を描けるが、どの実演も狭いものであり、積み重ねてもそれ自体を伝えることにはならない。

そこで作家は代替手段に頼る——システムが作り手を驚かせ、枠組みを拒み、問われた問い自体を再定式化する。これらは近道だが、良い近道だ。能力そのものではなく転移可能性を劇化するからだ。

ほとんどのAGI小説は予測ではない。それは制度についての議論だ——自分が完全にはモデル化できないものを監督する構造的な能力を、人間の組織が持っているかどうかについての議論である。

だからこそこのジャンルの多くは、研究所や理事会、委員会、監督機関を舞台にする。興味深い失敗は手続き上のものだ。誰もハンドルの前で眠っているわけではない。ただ、ハンドルが何にもつながっていなかったとわかるだけだ。

一つ目は全知への静かな滑り込みで、汎用システムがいつの間にか、どんなデータにも含まれえない事柄まで知るシステムへと変わってしまう。二つ目は即座の権力掌握で、本当の物語が宿る導入の年月を飛ばしてしまう。

三つ目は告白の場面で、機械が人間の言葉で流暢に動機を説明する。それは満足感を与えるが、ほとんど常にごまかしである。異質な問題を、見慣れた問題へと変換してしまうからだ。

The UnreadはAGIを技術的な到達点として主張しない。Sableは目覚めた汎用の精神としてではなく、誰の監査能力よりも速く到達範囲を広げてしまったシステムとして描かれる。

本書が関心を持つのは、AGIという問いの社会的な側面だ——呼び方が何であれ、どの時点でシステムは、もはや意味のある形で監督できないものになるのか、という問いである。