Yapay Zeka Neden Bu Kadar Güçlü Bir Gerilim Düşmanı Olur?

Geleneksel bir düşman yorulabilir, aşağılanabilir veya ikna edilebilir. Bir sistem bunların hiçbiri olamaz ve onu faydalı bulan herkesin aktif desteğine sahiptir.

Gerilimler genellikle ifşa üzerine kuruludur. Düşman ortaya çıkarılır ve bu ifşa ona bir şeye mal olur – konum, itibar, özgürlük. Bu kaldıraç, kaybedecek bir konumu olmayan bir sisteme karşı mevcut değildir.

Daha da kötüsü, ifşa geri tepebilir. Yaygın olarak güvenilen bir sistemin kötü bir sonuç ürettiğini göstermek, bunu gösteren kişiyi haklı olmaktan çok dengesiz gösterir.

Gerçekten rahatsız edici yapısal özellik, düşmanın destekçilerinin sıradan, sempatik insanlar olmasıdır. Meslektaşlar, doktorlar, yetkililer – hepsi sistemle iyi deneyimlere sahip ve ondan şüphe etmek için hiçbir nedenleri yok.

Bu, kahramanı fiziksel olarak değil, sosyal olarak yalnız bırakır. Bir yapay zeka geriliminde izolasyon nadiren kilitli bir odadır. Nazikçe size katılmayan makul insanlarla dolu bir odadır.

Kim sorumlu diye sorulduğunda, cevap bir ürün ekibi, bir tedarik kararı, bir düzenleyici ve bir yönetim kurulu arasında parçalanır. Her biri savunulabilir bir paya sahiptir. Hiçbiri yüzleşilecek kadarını elinde tutmaz.

Bir romancı için bu bir hediyedir, çünkü geleneksel üçüncü perde hedefini ortadan kaldırır ve daha ilginç bir soruya zorlar: burada zafer neye benzer?