AGI și superinteligență
Pe scurt
În moduri înguste, sistemele deja ajută la propria lor dezvoltare; o buclă de auto-îmbunătățire care se susține singură rămâne speculativă și se lovește de limite fizice și economice serioase.
Uneltele de IA sunt folosite la scrierea codului, la proiectarea cipurilor și la generarea de date de antrenament. Este un ajutor semnificativ, dar nu este același lucru cu un sistem care se redesenează autonom.
Distincția stă în veriga umană. În prezent, fiecare pas cu consecințe trece încă prin oameni, bugete și termene de fabricație.
Puterea de calcul trebuie construită și alimentată. Datele trebuie strânse sau generate, iar datele sintetice au moduri de eșec cunoscute. Experimentele fizice rulează la viteza fizicii. Niciuna dintre acestea nu cedează doar prin ingeniozitate.
Nimeni nu poate spune în prezent cât din procesul de îmbunătățire ar putea fi, în principiu, automatizat, iar cercetătorii serioși au opinii foarte diferite. Răspunsurile ferme, în orice direcție, o iau înaintea dovezilor.
Pentru că pune un ceas pe poveste fără să aibă nevoie de o bombă. O capacitate care se multiplică creează urgență din aritmetică, ceea ce este o sursă de spaimă mai discretă și mai modernă.
Nu în sensul sugerat de întrebare. Sistemele optimizează componente și ajută la dezvoltare; auto-redesenarea autonomă nu a avut loc.
The Unread apare deocamdată doar în limba engleză. Nu a fost anunțată nicio ediție tradusă.
Registrul cititorilor