抵抗できない敵役
何でもできるシステムには抵抗できません。そしてフィクションには抵抗が必要です。したがって、すべての超知能小説は隠された問いに答えなければなりません。このものの限界は何ですか?
AGIと超知能
要点
超知能フィクションは制約を発明しなければなりません。なぜなら、真に無限のシステムは小説が必要とする対立を取り除いてしまうからです。
何でもできるシステムには抵抗できません。そしてフィクションには抵抗が必要です。したがって、すべての超知能小説は隠された問いに答えなければなりません。このものの限界は何ですか?
物理的:電力、ハードウェア、そして世界における手が必要です。認識論的:観察できることについてのみ推論できます。目標指向:与えられたものを追求し、それ以上は追求しません。社会的:単に強制できない人間の協力が必要です。
制約の選択が本全体を決定し、何も選択しない本はスペクタクルに崩壊する傾向があります。
機械の中にあることはめったにありません。通常は人間のシーンにあります。事後に行われる監視会議、出力を説明できない専門家、決定が最終であると告げられる一般人。
THE UNREADは超知能を目指しません。それは一歩手前で機能します。システムは単に信頼されているだけで、それに異議を唱えることには社会的コストが伴います。これは推測ではない部分です。
研究者によって真剣に議論されており、可能性、時間スケール、そしてそのフレーミングがより近い害から注意をそらすかどうかについて、かなりの意見の相違があります。
読者登録
related:what-is-recursive-self-improvement,books-about-artificial-general-intelligence,could-ai-improve-its-own-intelligence