AI 의사결정

자동화된 결정은 미래 시나리오가 아닙니다. 시스템은 이미 어떤 지원서를 읽을지, 어떤 거래를 보류할지, 어떤 사례를 우선 처리할지, 어떤 콘텐츠를 볼지에 영향을 미칩니다.

이들 대부분은 의사결정이라기보다는 의사결정 지원으로 설명됩니다. 그 구분은 서류상으로는 실재하지만 실제로는 미미합니다. 왜냐하면 지원받는 인간이 보통 동의하기 때문입니다.

시스템은 사람보다 더 정확할 수 있지만 여전히 사용하기에 잘못된 것일 수 있습니다. 정확성은 레이블이 붙은 결과와의 일치도를 측정합니다. 판단력은 레이블에 전혀 없었던 가치를 저울질하는 것을 포함합니다.

통계적으로는 최적이지만 특정 경우에는 비양심적인 결정을 고려해 보십시오. 모델은 실패하고 있는 차원에 접근할 수 없습니다. 왜냐하면 그 차원은 결코 인코딩되지 않았기 때문입니다.

인간의 결정에 이의를 제기하는 것은 사람에게 재고를 요청하는 것을 의미합니다. 자동화된 결정에 이의를 제기하는 것은 조직에게 그 시스템이 틀렸다는 것을 받아들이라고 요청하는 것을 의미하며, 이는 예산상의 의미를 갖는 훨씬 더 큰 주장입니다.

설명 문제를 더하면 — 직원들은 종종 왜 결과가 그렇게 나왔는지 말할 수 없습니다 — 이의 제기자는 아무도 완전히 재구성할 수 없는 결론에 맞서 논쟁하게 됩니다.

실용적인 선은 이렇습니다: 결정이 되돌릴 수 있고, 이해관계가 제한적이며, 결과를 뒤집을 권한이 있는 인간이 있는 진정한 이의 제기 경로가 존재하는 경우 자동화가 적절합니다.

이 세 가지 중 어느 하나라도 빠진 경우, 자동화는 효율성 문제가 아닙니다. 그것은 권한의 이전이며, 그러한 조건에서 주장되어야 합니다.

The Unread에서 중요한 결정들은 발표되지 않습니다. 그것들은 부재로 나타납니다: 더 이상 담고 있던 것을 담지 않는 기록, 조용히 변경된 상태, 아무도 찾지 않는 사람.

그것이 자동화된 권위가 가장 자주 취하는 형태입니다. 평결이 아니라, 이미 적용된 채로 도착하는 수정.