AI agent 的 human-in-the-loop,大多数只是形式上的监督。系统以 agent 为中心,把海量复杂信息抛给人类审批,监督者疲劳、技能退化、过度依赖,最后只是在批准自己没真正审查过的东西。
![]()
作者 Cloris 给出的判断很直接:没有认知支架的 human-in-the-loop,最终只是把人推出那个 loop。问题不在人不够认真,而在监督这件事本身没有被设计。
她列了五条提升监督效率的实操建议,逐条看:
- 预承诺:在查看 AI 建议之前,先自己写下判断,避免被 AI 的建议先入为主带着走。
- 批量 diff 审查:把相关操作打包成对比清单一起审查,而不是逐个点同意。
- 有界自主:预先规定哪些小事 AI 可以直接执行,哪些必须由人类批复。
- 关键节点强制思考探针:在重要决策时弹出问题,迫使监督者先思考再决定。
- 休息轮岗与技能维护:强制休息、岗位轮换,并定期亲自完成任务以保持技能。
这五条的共同点,是把"人要不要看"变成"人怎么看"。逐个点同意之所以让人麻木,是因为每一次点击都不需要判断力;而预承诺、批量 diff、思考探针,都是在审批动作里重新塞回判断的成本。
有界自主解决的是另一头的问题:如果所有事都等人批复,人就成了瓶颈,疲劳是必然结果。提前划清哪些小事 AI 可以直接做,等于把人的注意力留给真正需要判断的节点。
最后一条容易被忽略。定期亲自完成任务以保持技能,听起来像老生常谈,但放在 agent 长期代劳的场景里,它决定了监督者还有没有能力看出问题。技能退化之后,审批就只剩形式。
这套建议没有涉及具体工具或产品,讲的是流程设计。对正在把 agent 接进工作流的团队来说,值得先问一句:现在的 loop 里,人到底在做什么。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.