Fremtidsspørsmål
Kort sagt
På smale måter bistår systemer allerede i sin egen utvikling; en selvforsterkende forbedringsløkke er fortsatt spekulativ og møter betydelige fysiske og økonomiske grenser.
KI-verktøy brukes til å skrive kode, designe brikker og generere treningsdata. Dette er meningsfull bistand, og det er ikke det samme som at et system selvstendig omkonstruerer seg selv.
Skillet er mennesket i kjeden. I dag går fortsatt hvert vesentlige steg gjennom folk, budsjetter og produksjonstider.
Regnekraft må bygges og drives med strøm. Data må samles inn eller genereres, og syntetiske data har kjente svakheter. Fysiske eksperimenter går i fysisk tempo. Ingenting av dette viker for smarthet alene.
Ingen kan i dag si hvor stor del av forbedringsprosessen som i prinsippet kan automatiseres, og seriøse forskere holder svært ulike syn. Sikre svar i begge retninger ligger foran bevisene.
Fordi det setter en klokke på historien uten å trenge en bombe. En evne som forsterker seg selv, skaper en aritmetisk uro — en stillere og mer moderne form for gru.
Ikke i den forstand spørsmålet antyder. Systemer optimaliserer komponenter og bistår i utvikling; autonom selv-omkonstruksjon har ikke skjedd.
The Unread utgis foreløpig kun på engelsk. Oversatte utgaver er ikke annonsert.
Leserregister