Uygulamalı çerçeve
Kısaca
Yapay zekâ etiği, bir sistemin hangi değerleri kodladığı, bu değerleri seçme yetkisinin kimde olduğu ve seçim yanlış olduğunda zararı kimin taşıdığı üzerine pratik bir sorudur.
Yapay zekâ etiği tartışmaları çoğu zaman bir sistemin hangi değerleri taşıması gerektiğinde takılır, sanki zor olan kısım değerlermiş gibi. Daha zor soru usule ilişkindir: kimin karar verme yetkisi vardı ve kimin adına?
Milyonlarca etkileşime yayılan bir sistem, tartışmalı ahlaki sorulara yerleşmiş bir yanıt kodlar. Bunu sessizce, geniş ölçekte ve genellikle etkilenen insanlara danışılmadan yapar.
Onay: etkilenen kişi bunun bir sistem tarafından karar verilmesini kabul etti mi? Hesap verebilirlik: sorumlu tutulabilecek adı belli bir insan var mı? Geri alınabilirlik: karar geri alınabilir mi ve ne kadar hızlı?
İtiraz edilebilirlik: etkilenen bir kişi gerçekçi bir başarı şansı olan bir itiraz yapabilir mi? Bu dört soru, soyut tartışmadan daha yararlıdır çünkü her birinin herhangi bir uygulama için gözlemlenebilir bir yanıtı vardır.
Otomatik bir karar için en yaygın gerekçe, sistemin ortalamada daha iyi performans göstermesidir. Bu sık sık doğrudur ve neredeyse her zaman yetersizdir.
Ortalamalar eşitsiz dağılır. Çoğu insan için sonuçları iyileştiren ama belirli bir azınlık için dramatik biçimde kötüleştiren bir sistem, politika olarak savunulabilir ve karşınızdaki kişiye savunulamaz olabilir.
Politika çalışması çerçevelerde iyi, dokuda zayıftır. İstisna olmanın nasıl bir şey olduğunu, sürecin izlendiğinin söylenmesini, haklı olup bunu gösteremeyişi aktarmakta zorlanır.
Kurgu tam da bunda iyidir. Okuru üç yüz sayfa boyunca yanlış ele alınmış tek bir vakanın içinde tutabilir; bunu hiçbir etki değerlendirmesi yapamaz.
The Unread, Sable'ın var olmaması gerektiğini savunmaz. Daha dar ve daha rahatsız edici bir soru sorar: sistemin anlatısı ile bir kişinin hafızası ayrıştığında, hangisi kanıt sayılır?
Romandaki her şey buradan doğar. Etik teknolojide değildir. Kime inanıldığındadır.
İyileşmiş ortalamalar tam bir yanıt değildir. Onay, hesap verebilirlik, geri alınabilirlik ve itiraz edilebilirlik toplam performanstan bağımsız olarak açık sorular olarak kalır.
The Unread şimdilik yalnızca İngilizce olarak yayımlanıyor. Çevrilmiş bir baskı henüz duyurulmadı.
Okur kaydı