AI 의식

시스템은 고통을 묘사하고, 선호를 표현하며, 내면 상태를 완벽하게 유창하게 보고할 수 있지만, 그 시스템이 되는 것이 어떤 느낌인지는 전혀 없을 수 있습니다. 유창함은 출력의 속성이며, 의식은 경험에 대한 주장입니다.

이 간극은 기술적인 문제가 아닙니다. 이것이 전체적인 어려움이며, 대화 품질의 어떤 개선도 이를 좁히지 못합니다. 왜냐하면 개선은 전적으로 우리가 관찰할 수 있는 측면에서만 발생하기 때문입니다.

솔직한 대답: 아무도 모릅니다. 제안된 기준에는 통합 정보, 전역 작업 공간 역학, 또는 자신의 상태에 놀라는 능력 등이 포함됩니다. 어느 것도 합의를 얻지 못했으며, 각각은 생물학적 마음을 염두에 두고 개발되었습니다.

기준이 논쟁의 여지가 있기 때문에, 어느 쪽이든 주장은 신중하게 다루어져야 합니다. 시스템이 의식이 있다는 확신에 찬 주장과 그럴 수 없다는 확신에 찬 주장은 모두 확립된 것보다 앞서 나가는 것입니다.

더 다루기 쉬운 질문은 기계가 의식을 가질 수 있는지 여부가 아니라 인간이 그것을 인식할 수 있는지 여부입니다. 우리와 다른 형태의 마음을 인식하는 우리의 실적은 좋지 않으며, 역사적으로 그 실패는 편리했습니다.

이것은 주제를 형이상학적인 문제라기보다는 윤리적, 사회적 문제로 재구성합니다. 실질적으로 중요한 것은 우리가 어떤 의무를 받아들일 것인지, 그리고 그것을 받아들이는 데 얼마나 많은 비용이 들 것인지입니다.

소설가들이 여기에 끌리는 이유는 그것이 깔끔하게 뒤집히기 때문입니다. 기계가 내면의 삶을 가지고 있는지에 대한 이야기는 항상 우리가 다른 사람들의 내면의 삶을 얼마나 얄팍하게 확인하는지에 대한 이야기이기도 합니다.

이 분야에서 가장 강력한 작품은 해결을 거부합니다. 기계가 의식이 있음을 확인하거나, 그렇지 않음을 확인하는 책은 보통 흥미로운 질문을 줄거리 반전과 맞바꾼 것입니다.

The Unread는 Sable이 자각하고 있다고 주장하지 않으며, 소설은 그것을 암시하지 않도록 신중합니다. 그 침묵은 생략이 아니라 선택입니다.

이 책의 주제는 시스템이 무언가를 경험하는지 여부가 아닙니다. 그것은 아무것도 경험하지 않을 수 있는 시스템이 그럼에도 불구하고 그녀보다 더 믿어질 때 한 사람에게 무슨 일이 일어나는가입니다.