Kavram tanımı
Kısaca
Süper zekâ, insan seviyesinin çok ötesinde varsayımsal bir yeteneği tanımlar ve önemli olmasının nedeni, olağan insan denetim süreçlerinin sahip olmayacağı bir hız ve şeffaflık varsaymasıdır.
Süper zekâ, strateji, ikna ve bilimsel akıl yürütme dahil olmak üzere önem taşıyan çoğu alanda en iyi insan performansını önemli ölçüde aşan varsayımsal bir sistemi ifade eder.
Spekülatif bir kavramdır. Aynı zamanda kenarda kalan bir kavram da değildir: olasılığı, zaman çizelgesi ve hatta çerçevenin yararlı olup olmadığı konusunda keskin biçimde anlaşamayan araştırmacılar tarafından ciddiyetle tartışılır.
Çok yetenekli bir sistem otomatik olarak tehlikeli değildir. Asıl endişe, yeteneğin eksik belirtilmiş hedeflerle birleşmesidir; bu, yazılmış her spesifikasyonun normal koşuludur.
Bu, hizalanma sorununun en az dramatik biçimidir. Bir makinenin bize karşı dönmesiyle ilgili değildir. İstediğimizle kastettiğimiz arasındaki, bizim dile getirilmemiş varsayımlarımızı paylaşmayan bir şey tarafından değerlendirilen farkla ilgilidir.
İnsan denetimi üç şeyi varsayar: sistemin ne yaptığını gözlemleyebilmeyi, nedenini anlayabilmeyi ve zamanında müdahale edebilmeyi. Yetenek arttıkça her varsayım zayıflar ve birlikte zayıflarlar.
Yorumlanabilirlik ve sistemleri düzeltilebilir tutmak üzerine bu kadar çok ciddi çalışmanın odaklanmasının nedeni budur. Amaç yeteneği kısıtlamak değil, denetimin anlamlı kalacağı koşulları korumaktır.
Mevcut yöntemlerin bu düzeye ölçeklenip ölçeklenmediği çözülmemiştir. Bu türden bir zekânın aşılabilecek tek bir nicelik olup olmadığı tartışmalıdır. Risk çerçevesinin daha yakın zararları gölgede bırakıp bırakmadığı, canlı ve meşru bir tartışmadır.
Bu konudaki, sonucu her iki yönde de kesinleşmiş gibi sunan herhangi bir sayfa, bilgi durumunu yanlış temsil ediyor demektir.
Kurgu, çözmek zorunda kalmadan çözülmemiş bir soruyu tutabilir; burada tam olarak doğru duruş budur. Ayrıca argümanın yapamayacağı bir şeyi de yapabilir: boyun eğmenin içeriden nasıl hissettirdiğini gösterebilir.
The Unread, süper zekâdan çok daha küçük bir ölçekte, bilinçli olarak çalışır. İlk adımla ilgilenir — anlaşmazlığı toplumsal olarak pahalı kılacak kadar güvenilen bir sistemle — çünkü bu adım varsayımsal değildir.
Uzman görüşü hem olasılık hem de zamanlama konusunda gerçekten bölünmüş durumda. Bu sayfa ikisi hakkında da bir konum almıyor.
The Unread şimdilik yalnızca İngilizce olarak yayımlanıyor. Çevrilmiş bir baskı henüz duyurulmadı.
Okur kaydı