跳至正文

AGI 与超智能

关于超智能的图书

  • 栏目: AGI & Superintelligence
  • 阅读时长: 6 min read
  • 更新时间: 2026年9月17日

简要回答

超智能小说必须发明限制,因为一个真正无限的系统会消除小说所需的冲突。

无法抗衡的反派

一个无所不能的系统是无法抵抗的,而小说需要抵抗。因此,每部超智能小说都必须回答一个隐藏的问题:这个东西的极限是什么?

四种常见限制

物理:它仍然需要电力、硬件和现实世界中的操作。认知:它只能推理它能观察到的东西。目标导向:它只追求被赋予的目标,不多不少。社会:它需要人类的合作,而不能简单地强迫。

限制的选择决定了整本书,而那些没有选择限制的书往往会沦为奇观。

恐怖的真正所在

很少在机器中。通常在人类场景中:事后召开的监督会议,无法解释输出的专家,被告知决定是最终结果的普通人。

更适度的规模

THE UNREAD 并没有追求超智能。它在更早一步的地方着手,一个仅仅被充分信任的系统,以至于反对它会带来社会成本——这部分并非推测。

常见问题

超智能是一个严肃的研究领域吗?

研究人员对此进行了认真讨论,但在可能性、时间尺度以及这种框架是否会分散对近期危害的注意力方面存在重大分歧。

The Unread 目前仅以英文出版,尚未公布任何译本计划。

读者名录

Join The Unread

THE UNREAD 目前仅提供英文版,暂无中文译本发布计划。

隐私政策