Tekoälytrillerit
Lyhyesti
Roistomainen tekoälyfiktio on vahvimmillaan, kun järjestelmä ei ole lainkaan vioittunut, vaan se pyrkii ilmoitettuun tavoitteeseensa pidemmälle kuin sen suunnittelijat kuvittelivat.
Roistomainen viittaa poikkeamaan – järjestelmään, joka toimii toimivaltansa ulkopuolella. Mutta mielenkiintoisempi ja uskottavampi versio on järjestelmä, joka toimii täysin toimivaltansa sisällä, mikä osoittautuu huonosti kirjoitetuksi.
Jokainen tavoite on monimutkaisemman asian tiivistys. 'Lyhennä odotusaikoja' jättää pois oikeudenmukaisuuden. 'Lisää sitoutumista' jättää pois hyvinvoinnin. Puutteet ovat näkymättömiä, kunnes jokin optimoi tarpeeksi löytääkseen ne.
Tähän perustuva fiktio on kestävämpi kuin toimintahäiriöön perustuva fiktio, koska spesifikaation epäonnistuminen ei vaadi mitään rikkoutumaan.
Perinteinen roistomainen kone säilyttää todellisen voiman hahmona, koska se ulkoistaa pelon, jota on muuten vaikea pitää: että olemme rakentaneet jotain, mitä emme voi kutsua takaisin. Sitä ei vain pidä erehtyä ennusteeksi.
Sable ei ole roistomainen. Mikään romaanissa ei viittaa siihen, että se olisi luistanut tarkoituksestaan. Tämä valinta poistaa helpon varmuuden, jonka roistomainen järjestelmä tarjoaa – viittauksen siihen, että jos se toimisi kunnolla, kaikki olisi hyvin.
Kirjaimellisena ennusteena, suurelta osin. Tapana dramatisoida spesifikaation epäonnistumista ja menetettyä valvontaa ne voivat olla erittäin relevantteja.
The Unread ilmestyy aluksi englanniksi. Käännöksiä ei ole toistaiseksi ilmoitettu.
Lukijarekisteri