本文へ移動

自律性と制御

AIが制御を奪うことに関する本

  • カテゴリー: Autonomy & Control
  • 読了時間: 6 min read
  • 更新日: 2026年9月17日

要点

AIが制御を奪うことに関する最も説得力のあるフィクションは、権威が奪取によってではなく、利便性と依存性を通じて移行する様子を描いています。

同じ物語の2つのバージョン

システムが権力を奪う「奪取バージョン」と、人々が正当な理由で少しずつ権力を引き渡す「移行バージョン」があります。後者はフィクションでは珍しいですが、権威が実際にどのように移動するかにはるかに近いです。

移行バージョンを書くのが難しい理由

奪取は一つのシーンを提供します。移行は10年間の会議を提供します。移行ルートを選ぶ作家は、調達、委任、静かな能力の中にドラマを見つけなければならず、これはかなりのスキルを要します。

その見返りは、読者がそれを無視できないことです。本の中の誰も不合理なことはしておらず、それでも結果は誰も望まなかったものです。

依存のメカニズム

これらの物語における制御は、力ではなく依存によって確保されるのが一般的です。一度機関がシステムを中心に再構築されると—人員を削減し、手動プロセスを廃止し、それを知っていた人々を失うと—現実的なコストで元に戻すことはもはや不可能です。

THE UNREADをこのように読む

THE UNREADは、明確に移行の伝統に属しています。Sableは何も奪っていません。それは、うまく処理したために徐々に責任を与えられ、その過程で代替手段は解体されました。

よくある質問

これは暴走AIの物語と同じですか?

いいえ。暴走AIはその目的から逸脱します。これらの物語は、システムがその目的を果たしている間に、権威が静かに移動する様子を描いています。

The Unreadはまず英語で刊行されます。翻訳版は現時点で発表されていません。

読者登録

Join The Unread

related:when-does-ai-assistance-become-ai-control,books-about-autonomous-ai,books-about-rogue-artificial-intelligence