Tekoäly & Ihmiskunta
Lyhyesti
Yliluottamus muuttaa järjestelmän virheet sosiaalisiksi faktoiksi: kun tulostetta käsitellään oletusarvoisena kuvauksena todellisuudesta, sen korjaaminen vaatii enemmän todisteita kuin sen tuottaminen.
Luotetun järjestelmän tulosteen tuottaminen ei maksa mitään, ja se hyväksytään oletusarvoisesti. Sen kumoaminen vaatii todisteiden keräämistä, jonkun löytämistä, joka on halukas tarkistamaan ne, ja sinnikkyyttä alkuperäisen vastauksen jälkeen.
Tämä epäsymmetria on koko ongelma. Se ei vaadi järjestelmän olevan usein väärässä – vain sen, että väärässä olemisen prosessi on paljon halvempi kuin korjaamisen prosessi.
Tarkistaminen lakkaa: kukaan ei tarkista, koska tarkistaminen ei ole koskaan löytänyt mitään. Taidot surkastuvat: ihmiset, jotka voisivat tarkistaa, siirretään muihin tehtäviin. Ja erimielisyydestä tulee luonteen arviointi teknisen väitteen sijaan.
Tavoitteena ei ole vähemmän luottamusta vaan tarkka luottamus – tietäen ne erityiset olosuhteet, joissa tämä järjestelmä on epäluotettava. Tämä edellyttää organisaatioilta vikatilojen julkaisemista, mihin harvalla on rakenteellista motivaatiota.
Aurora Valen vaikeus THE UNREAD -kirjassa ei ole se, että kukaan valehtelee. Se on se, että hänen kertomuksensa vaatii vaivaa harkittavaksi, ja järjestelmän kertomus ei vaadi mitään.
Yleisellä epäluottamuksella on omat kustannuksensa ja se hylkää todelliset hyödyt. Kalibroitu luottamus – tietäen missä järjestelmä epäonnistuu – on hyödyllisempi tavoite.
The Unread ilmestyy aluksi englanniksi. Käännöksiä ei ole toistaiseksi ilmoitettu.
Lukijarekisteri
Tämä artikkeli on osa THE UNREAD -sarjaa, joka tutkii tekoälyn ja ihmiskunnan monimutkaisia suhteita. THE UNREAD on tällä hetkellä saatavilla englanniksi, eikä käännetyistä painoksista ole ilmoitettu.