Makineler karar verdiğinde: yapay zekâ karar verme

Otomatik kararlar gelecekteki bir senaryo değildir. Sistemler hâlâ hangi başvurunun okunacağını, hangi işlemin bekletileceğini, hangi vakanın önceliklendirileceğini ve hangi içeriğin görüleceğini etkiliyor.

Bunların çoğu karar vermek yerine karar desteği olarak tanımlanır. Bu ayrım kâğıt üzerinde gerçektir ve uygulamada incedir, çünkü desteklenen insan genellikle katılır.

Bir sistem bir kişiden daha doğru olabilir ve yine de kullanılması yanlış şey olabilir. Doğruluk, etiketlenmiş bir sonuçla uyumu ölçer. Muhakeme ise etiketlerde hiç yer almamış değerleri tartmayı içerir.

İstatistiksel olarak en uygun ama belirli bir vakada vicdansız olan bir kararı düşünün. Modelin başarısız olduğu boyuta erişimi yoktur, çünkü o boyut hiç kodlanmamıştır.

İnsan kararına itiraz etmek bir kişiden yeniden düşünmesini istemek demektir. Otomatik bir karara itiraz etmek, bir örgütten sisteminin yanlış olduğunu kabul etmesini istemek demektir; bu, bütçe sonuçları olan çok daha büyük bir iddiadır.

Buna açıklama sorununu da ekleyin — personel çoğu zaman çıktının neden o olduğunu söyleyemez — ve itiraz eden kişi kimsenin tam olarak yeniden kuramadığı bir sonuca karşı tartışıyor demektir.

İşe yarayan bir sınır şudur: otomasyon, kararın geri alınabilir olduğu, riskin sınırlı olduğu ve sonucu geri çevirmeye yetkili bir insanla gerçek bir itiraz yolunun bulunduğu yerlerde uygundur.

Bu üçünden herhangi biri eksikse otomasyon bir verimlilik sorusu değildir. Bir yetki devridir ve bu terimlerle tartışılmalıdır.

The Unread'de önemli kararlar duyurulmaz. Yokluklar olarak ortaya çıkarlar: artık içermediği şeyi içeren bir kayıt, sessizce değişmiş bir durum, kimsenin aramadığı bir kişi.

Otomatik otoritenin en sık aldığı biçim budur. Bir hüküm değil, çoktan uygulanmış olarak gelen bir düzeltme.