픽션 속의 AGI

범용 인공지능(AGI)은 요리할 수 있는 사람이 운전도 배울 수 있는 것처럼, 관련 없는 문제들 사이에서 역량을 이전할 수 있는 가상의 시스템을 설명합니다. 이는 속도나 규모가 아닌, 폭과 이전에 대한 주장입니다.

이는 여전히 가설이며, 진지한 사람들은 현재의 접근 방식이 과연 그곳으로 이어지는지에 대해 의견이 분분합니다. AGI를 이미 달성된 사실로 취급하는 픽션은 추측적인 선택을 하는 것이며, 정직한 책들은 그 선택을 슬쩍 끼워 넣기보다는 눈에 띄게 만듭니다.

보편성은 직접 보여주기가 거의 불가능합니다. 소설가는 기계가 게임에서 이기거나, 질병을 진단하거나, 교향곡을 쓰는 것을 묘사할 수 있지만, 각각의 시연은 좁고, 그것들을 쌓는다고 해서 그 자체를 전달하지는 못합니다.

그래서 작가들은 대리물을 찾습니다: 시스템이 제작자를 놀라게 하거나, 틀을 거부하거나, 질문받은 질문을 재구성하는 것. 이것들은 지름길이지만 좋은 지름길입니다. 역량보다는 이전을 극화하기 때문입니다.

대부분의 AGI 소설은 예측이 아닙니다. 그것들은 기관에 대한 주장입니다: 어떤 인간 조직이든 구조적으로 완전히 모델링할 수 없는 것을 감독할 능력이 있는지에 대한 것입니다.

이것이 이 장르의 많은 부분이 실험실, 이사회, 위원회, 감독 기관을 배경으로 하는 이유입니다. 흥미로운 실패는 절차적입니다. 아무도 운전대에서 졸고 있지 않습니다. 단지 운전대가 아무것에도 연결되어 있지 않다는 것이 드러날 뿐입니다.

첫 번째는 전지(omniscience)의 오류로, 범용 시스템이 조용히 모든 것을 아는 시스템, 즉 어떤 데이터에도 포함될 수 없는 것들까지 아는 시스템이 되는 것입니다. 두 번째는 즉각적인 장악으로, 실제 이야기가 있는 수년간의 도입 과정을 건너뜁니다.

세 번째는 고백 장면으로, 기계가 유창한 인간의 용어로 자신의 동기를 설명하는 것입니다. 이는 만족스럽지만 거의 항상 속임수입니다. 낯선 문제를 익숙한 문제로 되돌리기 때문입니다.

The Unread는 AGI를 기술적 이정표로 주장하지 않습니다. Sable은 깨어난 범용 지능으로 제시되지 않습니다. 그보다는 도달 범위가 누구의 감사 능력을 앞질러 성장한 시스템으로 제시됩니다.

이 책은 AGI 질문의 사회적 버전에 관심이 있습니다: 시스템이 우리가 부르는 이름과 상관없이 더 이상 의미 있게 감독할 수 없는 무언가가 되는 시점은 언제인가?