AI倫理——AIに何を許すかを誰が決めるのか

AI倫理についての議論は、まるで価値観こそが難しい部分であるかのように、システムがどんな価値を持つべきかで行き詰まることが多い。より難しい問いは手続き上のものだ——誰が決める権限を持ち、誰の名の下に決めたのか。

数百万回のやり取りにわたって導入されるシステムは、争いのある道徳的な問いに対する確定した答えを組み込んでいる。それは沈黙のうちに、大規模に、影響を受ける人々に相談することなく行われることが多い。

同意——影響を受ける人は、これをシステムに決めさせることに同意しただろうか。説明責任——責任を問える、名前のある人間はいるか。可逆性——その決定は取り消せるか、どれほど速く取り消せるか。

異議申し立て可能性——影響を受ける人が、現実的に成功しうる異議を申し立てられるか。この四つは、抽象的な議論よりも役に立つ。それぞれの導入事例に対して、観察可能な答えがあるからだ。

自動化された決定を正当化する最も一般的な理由は、システムが平均としてより良い成績を上げているというものだ。これはしばしば事実であり、ほとんどの場合それだけでは不十分だ。

平均は不均等に分配される。ほとんどの人にとって結果を改善しながら、特定の少数者に対して劇的に悪化させるシステムは、政策としては擁護できても、目の前に立つ本人には擁護しがたい。

政策の仕事は枠組みには強いが、質感には弱い。例外であることがどう感じられるか、手続きは守られたと言われることがどう感じられるか、自分は正しいのにそれを示せないことがどう感じられるかを伝えるのは苦手だ。

フィクションはまさにそれが得意だ。誤って扱われたたった一つの事例の中に、読者を三百ページにわたって留めておくことができる。それはどんな影響評価にもできないことだ。

The Unreadは、Sableが存在すべきでないとは主張しない。もっと狭く、もっと居心地の悪い問いを立てる——システムの記録と人の記憶が食い違うとき、どちらが証拠として扱われるのか。

小説の中のすべては、そこから続いていく。倫理は技術の中にあるのではない。誰が信じられるかの中にある。