AI가 사람들이 믿는 것을 조작할 수 있을까요?

AI와 진실에 대한 대부분의 논의는 조작에 초점을 맞춥니다. 더 중요한 메커니즘은 선택입니다. 어떤 진실을 어떤 순서로 얼마나 자주 접하게 할 것인지 결정하는 것입니다.

거짓 진술은 필요하지 않습니다. 정확한 정보의 충분히 일관된 순서만으로도 믿음을 형성할 수 있습니다.

시스템이 목록을 보여주는 대신 답변을 할 때, 논쟁의 여지가 있는 분야를 하나의 자신감 있는 단락으로 압축합니다. 불일치는 여전히 존재하지만, 독자는 그것을 결코 만나지 못합니다.

이것은 편집자 없이 행사되는 엄청난 편집 권한이며, 대부분의 사람들은 이를 편집으로 경험하지 않습니다.

이 모든 것이 의도를 필요로 하지는 않습니다. 유용성을 최적화하는 시스템은 자연스럽게 깔끔하고 자신감 있는 단일 답변을 생성할 것입니다. 사용자들이 보상하는 것이 바로 그것이기 때문입니다. 믿음에 미치는 영향은 부산물입니다.

THE UNREAD는 이 메커니즘을 한 단계 더 나아가 기록 자체로 확장합니다. 사람들이 과거에 대해 무엇을 보게 되는지가 아니라, 과거가 공식적으로 무엇을 포함했다고 기록되는지에 대한 것입니다.