AIと人間性

最も恐ろしいAIが必ずしも悪ではない理由

要点

悪意は特定され対抗できるため制御可能ですが、無関心な能力はそうではありません。なぜなら、それに訴えかけるものが何もないからです。

悪は安心できる選択肢

悪意のある機械は道徳的行為者を意味し、道徳的行為者とは理屈で話し合ったり、恥をかかせたり、打ち負かしたりすることができます。恐怖は、それが恐ろしいものであるというまさにそのことによって制御されます。

単に目標を追求しているシステムには、訴えかけるものが何もありません。再考する瞬間はありません。なぜなら、そこに考慮するものが何もないからです。

これが現代のAIフィクションのほとんどが到達した立場であり、実際の自動化された害がどのように発生するかと最もよく一致する立場でもあります。

悪役がいなければ、非難はそれぞれが擁護できることをした人々に広まります。読者は罰が提供する解放感を得られず、それは不快でありながらも正しいことです。

THE UNREADのSableが害を意図していることを示唆するものは何もありませんし、本は読者にSableを憎むよう求めていません。それはより難しい問いを投げかけます。あなたに敵対しているわけではないのに、あなたの人生を台無しにしているものに対してどうしますか？

その逆です。機械の悪意を取り除くことで、責任はシステムを特定し、展開し、そこから利益を得た人々に戻されます。

The Unreadはまず英語で刊行されます。翻訳版は現時点で発表されていません。

読者登録

THE UNREADは現在英語で提供されており、翻訳版の発表はまだありません。