人工知能を誰が制御すべきか？

システムを理解しているが商業的利益を持つ開発者。民主的正当性を持つが動きが遅く不均一な政府。範囲は広いが執行力が限られている国際機関。最も強い道徳的主張を持つが影響力が最も小さい影響を受けるコミュニティ。

それぞれの立場には正当な議論と正当な欠陥があります。どれか一つを明白だと提示する人は、説明ではなく議論をしているのです。

制御は、デフォルトが何か、どのエラーが許容されるか、異議申し立てが存在するかといった、地味な決定を通じて行われます。これらは製品チームによって日々行われ、ほとんどガバナンスとして位置づけられることはありません。

確実に言えることは、能力、データ、インフラが現在少数の組織に集中しており、その集中自体が、誰の意図に関わらずガバナンスの事実であるということです。

小説はこれをうまく答えることはめったになく、試みるべきでもありません。小説ができるのは、誰も作ったことを覚えていない決定によって統治されることがどのような感じかを示すことです。