Explicație pe înțeles
Pe scurt
Superinteligența descrie o capacitate ipotetică cu mult peste nivelul uman, iar motivul pentru care contează este că procesele obișnuite de supraveghere umană presupun un ritm și o transparență pe care aceasta nu le-ar avea.
Superinteligența se referă la un sistem ipotetic care depășește substanțial cea mai bună performanță umană în majoritatea domeniilor care contează, inclusiv strategie, persuasiune și raționament științific.
Este un concept speculativ. Nu este însă unul marginal: este dezbătut serios de cercetători care nu sunt deloc de acord asupra probabilității lui, a orizontului de timp și dacă încadrarea în sine este utilă.
Un sistem foarte capabil nu este automat periculos. Îngrijorarea este combinația dintre capacitate și obiective specificate imperfect, ceea ce este starea normală a oricărei specificații scrise vreodată.
Aceasta este problema alinierii în forma ei cea mai puțin dramatică. Nu este despre o mașină care se întoarce împotriva noastră. Este despre prăpastia dintre ce am cerut și ce am vrut de fapt, evaluată de ceva care nu împărtășește presupunerile noastre neexprimate.
Supravegherea umană presupune trei lucruri: că putem observa ce face sistemul, că înțelegem de ce, și că putem interveni la timp. Fiecare presupunere se slăbește pe măsură ce capacitatea crește, iar ele se slăbesc împreună.
De aceea o mare parte din munca serioasă se concentrează pe interpretabilitate și pe menținerea sistemelor corigibile. Scopul nu este să limiteze capacitatea, ci să păstreze condițiile în care supravegherea rămâne semnificativă.
Dacă metodele actuale se pot extinde la acest nivel rămâne nerezolvat. Dacă inteligența de acest tip este o mărime unică ce poate fi depășită este disputat. Dacă încadrarea prin risc eclipsează prejudiciile mai apropiate este o dezbatere vie și legitimă.
Orice pagină pe acest subiect care prezintă rezultatul ca fiind cert denaturează stadiul cunoașterii, în oricare direcție.
Ficțiunea poate ține o întrebare nerezolvată fără s-o rezolve, ceea ce este exact poziția potrivită aici. Poate face și ceva ce argumentarea nu poate: să arate cum se simte deferența pe dinăuntru.
The Unread lucrează la o scală mai mică decât superinteligența, deliberat. Este interesat de primul pas — un sistem în care se are atâta încredere încât dezacordul devine costisitor social — pentru că acel pas nu este ipotetic.
Opinia experților este cu adevărat divizată atât asupra probabilității, cât și asupra momentului. Această pagină nu ia poziție în niciun sens.
The Unread apare deocamdată doar în limba engleză. Nu a fost anunțată nicio ediție tradusă.
Registrul cititorilor