Yapay Zeka ve İnsanlık
Kısaca
Otomasyon yanlılığı, bir sistemin çıktısını incelemek yerine kabul etme eğilimidir – ve insan döngüsündeki güvenlik önlemlerinin zamanla zayıflamasının ana nedenidir.
Otomasyon yanlılığı, iki ilgili eğilimi tanımlar: otomatik bir tavsiyeyi yeterli kontrol olmadan kabul etmek ve sistem sizi uyarmadığında harekete geçmemek.
Her ikisi de güvenilir araçlara verilen sıradan insan tepkileridir, ihmal değil. Onları tasarlamayı zorlaştıran da budur.
Uyanıklık pahalıdır ve ölçeklenmez. Dört yüz doğru çıktı görmüş bir denetçi, dört yüz birinciyi hızlıca onayladığında dikkatsiz davranmıyor; deneyimine rasyonel bir şekilde yanıt veriyor.
İşe yarayan önlemler motivasyonel olmaktan çok yapısal olma eğilimindedir: örnekleme denetimleri, kasıtlı olarak yüzeye çıkarılan belirsizlik, sistemin çıktısı gösterilmeden önce bağımsız bir yargı gerektirme ve vaka yükünü sınırlama.
İnsanları daha dikkatli olmaya eğitmek, tek başına, güvenilir bir şekilde işe yaramaz.
Çünkü mantıklı insanların kimse kötü davranmadan zararı nasıl onayladığını açıklar, ki bu modern yapay zeka kurgusunun çözmesi gereken tam da dramatik sorundur.
Havacılık, tıp ve diğer yüksek riskli otomatik ortamlarda incelenen, insan faktörleri araştırmalarında iyi kurulmuş bir bulgudur.
The Unread şimdilik yalnızca İngilizce olarak yayımlanıyor. Çevrilmiş bir baskı henüz duyurulmadı.
Okur kaydı
THE UNREAD şu anda İngilizce olarak mevcuttur ve çevrilmiş baskılar henüz duyurulmamıştır.