Etică practică
Pe scurt
Etica inteligenței artificiale este întrebarea practică privind ce valori codifică un sistem, cine a avut autoritatea să le aleagă și cine suportă prejudiciul atunci când alegerea este greșită.
Dezbaterile despre etica IA se blochează adesea pe ce valori ar trebui să aibă un sistem, ca și cum valorile ar fi partea grea. Întrebarea mai grea este procedurală: cine a avut dreptul să decidă, și în numele cui?
Un sistem desfășurat pe milioane de interacțiuni codifică un răspuns fixat la întrebări morale contestate. O face în tăcere, la scară, și de obicei fără ca oamenii afectați să fi fost consultați.
Consimțământ: a fost persoana afectată de acord ca acest lucru să fie decis de un sistem? Responsabilitate: există un om numit care poate fi tras la răspundere? Reversibilitate: poate fi anulată decizia, și cât de repede?
Contestabilitate: poate persoana afectată să depună o contestație cu o șansă realistă de succes? Aceste patru întrebări sunt mai utile decât dezbaterea abstractă, pentru că fiecare are un răspuns observabil pentru orice desfășurare dată.
Cea mai frecventă justificare pentru o decizie automatizată este că sistemul performează mai bine în medie. Acest lucru este adesea adevărat și aproape întotdeauna insuficient.
Mediile se distribuie neuniform. Un sistem care îmbunătățește rezultatele pentru majoritatea oamenilor, în timp ce le înrăutățește dramatic pentru o minoritate specifică, poate fi justificabil ca politică și de nejustificat pentru persoana care stă în fața ta.
Lucrul de politici publice este bun la cadre și slab la textură. Se luptă să transmită cum e să fii excepția, să ți se spună că procesul a fost respectat, să ai dreptate și să nu poți demonstra asta.
Ficțiunea este bună tocmai la asta. Poate ține cititorul înăuntrul unui singur caz gestionat greșit timp de trei sute de pagini, ceea ce niciun studiu de impact nu poate face.
The Unread nu argumentează că Sable n-ar trebui să existe. Pune o întrebare mai îngustă și mai incomodă: atunci când relatarea sistemului și memoria unei persoane diverg, care dintre ele este tratată drept dovadă?
Tot restul romanului decurge de aici. Etica nu este în tehnologie. Este în cine este crezut.
Mediile îmbunătățite nu reprezintă un răspuns complet. Consimțământul, responsabilitatea, reversibilitatea și contestabilitatea rămân toate întrebări deschise indiferent de performanța agregată.
The Unread apare deocamdată doar în limba engleză. Nu a fost anunțată nicio ediție tradusă.
Registrul cititorilor