AI 윤리

AI 윤리에 대한 논쟁은 종종 시스템이 어떤 가치를 가져야 하는지에 대해 교착 상태에 빠집니다. 마치 가치가 어려운 부분인 것처럼 말이죠. 더 어려운 질문은 절차적인 것입니다: 누가 결정할 자격이 있었고, 누구를 대신해서 결정했는가?

수백만 건의 상호작용에 걸쳐 배포된 시스템은 논쟁의 여지가 있는 도덕적 질문에 대한 확정된 답을 담고 있습니다. 그것은 조용히, 대규모로, 그리고 보통 영향을 받는 사람들이 상의 없이 그렇게 합니다.

동의: 영향을 받는 사람이 이것이 시스템에 의해 결정되는 것에 동의했는가? 책임: 책임을 질 수 있는 지명된 인간이 있는가? 되돌림 가능성: 결정이 취소될 수 있는가, 그리고 얼마나 빨리?

이의 제기 가능성: 영향을 받는 사람이 성공할 현실적인 가능성이 있는 이의를 제기할 수 있는가? 이 네 가지는 추상적인 논쟁보다 더 유용합니다. 왜냐하면 각각은 주어진 배포에 대해 관찰 가능한 답을 가지고 있기 때문입니다.

자동화된 결정에 대한 가장 흔한 정당화는 시스템이 평균적으로 더 나은 성능을 보인다는 것입니다. 이것은 종종 사실이지만 거의 항상 불충분합니다.

평균은 고르지 않게 분배됩니다. 대부분의 사람들에게 결과를 개선하면서 특정 소수에게는 극적으로 악화시키는 시스템은 정책으로서는 옹호될 수 있지만, 당신 앞에 서 있는 사람에게는 옹호될 수 없을 수 있습니다.

정책 작업은 프레임워크에는 능하지만 질감에는 약합니다. 예외가 되는 것, 절차가 지켜졌다는 말을 듣는 것, 옳지만 증명할 수 없는 것이 어떤 느낌인지 전달하는 데 어려움을 겪습니다.

픽션은 바로 그 점에 능합니다. 어떤 영향 평가도 할 수 없는, 잘못 처리된 단일 사례 안에 독자를 300페이지 동안 붙잡아 둘 수 있습니다.

The Unread는 Sable이 존재해서는 안 된다고 주장하지 않습니다. 그것은 더 좁고 더 불편한 질문을 던집니다: 시스템의 설명과 사람의 기억이 다를 때, 어느 것이 증거로 취급되는가?

소설의 다른 모든 것은 그것에서 비롯됩니다. 윤리는 기술에 있는 것이 아닙니다. 그것은 누가 믿어지는가에 있습니다.