Qui devrait contrôler l'intelligence artificielle ?

Les développeurs, qui comprennent les systèmes mais ont un intérêt commercial. Les gouvernements, qui ont une légitimité démocratique mais agissent lentement et inégalement. Les instances internationales, qui ont une portée mais un pouvoir d'exécution limité. Les communautés concernées, qui ont la plus forte légitimité morale et le moins de levier.

Chaque position comporte un argument réel et un défaut réel. Quiconque en présente une comme évidente argumente plutôt qu'il n'explique.

Le contrôle s'exerce à travers des décisions peu spectaculaires : quel est le choix par défaut, quelle erreur est acceptable, si un recours existe. Elles sont prises quotidiennement par des équipes produit, et presque jamais présentées comme de la gouvernance.

Ce que l'on peut affirmer avec assurance, c'est que la capacité, les données et l'infrastructure reposent actuellement entre les mains d'un petit nombre d'organisations, et que cette concentration est en elle-même un fait de gouvernance, indépendamment de toute intention.

Les romans y répondent rarement bien, et ne devraient pas essayer. Ce qu'ils peuvent faire, c'est montrer ce que l'on ressent à être gouverné par une décision dont personne ne se souvient avoir prise.