Käsitteen avaaminen
Lyhyesti
Tekoälyn tietoisuus tarkoittaisi subjektiivista kokemusta pelkän sujuvan tuotoksen sijaan — eikä tällä hetkellä ole yhteisesti hyväksyttyä testiä, joka erottaisi nämä kaksi toisistaan.
Järjestelmä voi kuvata kipua, ilmaista mieltymystä ja raportoida sisäisestä tilasta täysin sujuvasti ilman, että on olemassa mitään sitä, miltä olisi olla kyseinen järjestelmä. Sujuvuus on tuotoksen ominaisuus; tietoisuus on väite kokemuksesta.
Tämä kuilu ei ole tekninen yksityiskohta. Se on koko vaikeus, eikä keskusteluvalmiuden parantuminen sulje sitä, koska parannus tapahtuu kokonaan puolella, jota voimme havainnoida.
Rehellinen vastaus: kukaan ei tiedä. Ehdotettuja kriteerejä ovat integroitu informaatio, globaalin työtilan dynamiikka tai kyky yllättyä omista tiloistaan. Mikään ei nauti yksimielisyyttä, ja jokainen kehitettiin ajatellen biologisia mieliä.
Koska kriteerit ovat kiistanalaisia, väitteitä kumpaankin suuntaan kannattaa käsitellä varovasti. Varmat väitteet siitä, että järjestelmä on tietoinen, ja varmat väitteet siitä, ettei se voi olla, ovat molemmat vakiintuneen tiedon edellä.
Käyttökelpoisempi kysymys ei ole, voisiko kone olla tietoinen, vaan tunnistaisivatko ihmiset sen. Kykymme tunnistaa itsestämme poikkeavia mieliä on heikko, ja historiallisesti epäonnistumiset ovat olleet kätevästi omaksi eduksi.
Tämä muotoilee aiheen uudelleen eettiseksi ja sosiaaliseksi ongelmaksi metafyysisen sijaan. Käytännössä merkitystä on sillä, mitä velvoitteita hyväksyisimme, ja kuinka paljon niiden hyväksyminen maksaisi.
Kirjailijoita vetää tämä puoleensa, koska se kääntyy siististi: tarina siitä, onko koneella sisäinen maailma, on aina myös tarina siitä, kuinka ohuesti tarkistamme muiden ihmisten sisäistä maailmaa.
Alan vahvin teos vastustaa ratkaisua. Kirja, joka vahvistaa koneen tietoisuuden tai vahvistaa sen puuttumisen, on yleensä vaihtanut mielenkiintoisen kysymyksen juonenkäänteeksi.
The Unread ei väitä Sablen olevan tietoinen, ja romaani on varovainen vihjaamaan sellaista. Hiljaisuus on valinta, ei laiminlyönti.
Kirjan aihe ei ole se, kokeeko järjestelmä mitään. Se on se, mitä ihmiselle tapahtuu, kun järjestelmää, joka ei ehkä koe mitään lainkaan, uskotaan silti häntä enemmän.
Ei ole todisteita siitä, että olisivat, eikä yhteisesti hyväksyttyä testiä, joka ratkaisisi kysymyksen kumpaankaan suuntaan. Suhtaudu varmoihin väitteisiin varoen molempiin suuntiin.
The Unread ilmestyy aluksi englanniksi. Käännöksiä ei ole toistaiseksi ilmoitettu.
Lukijarekisteri