人工智能辅助何时变为人工智能控制？

界限不在于能力。而在于异议的成本。一旦偏离系统推荐需要解释、填写表格或辩护，那么推荐就变成了更有礼貌的指令。

文档记录：偏离是否被记录为例外？责任：如果出现问题，违背系统是否会让你个人承担责任？可用性：替代流程在实践中是否仍然存在？

当这三者都存在时，无论政策文件如何规定人工自由裁量权，系统都处于控制之中。

临床医生、社工、承保人和内容审核员最早遇到这种情况，因为他们的自由裁量权是衡量对象。这种经历很少被描述为强制。它被描述为不再值得费心。

这种控制从不宣扬自己，这就是为什么关于它的虚构作品必须有耐心。《THE UNREAD》正是从这个角度找到了它的张力：没有人被禁止任何事，也没有人争辩。