网易首页 > 网易号 > 正文 申请入驻

没有认知支架的HITL,只是把人推出循环

0
分享至

AI agent 的 human-in-the-loop,大多数只是形式上的监督。系统以 agent 为中心,把海量复杂信息抛给人类审批,监督者疲劳、技能退化、过度依赖,最后只是在批准自己没真正审查过的东西。


作者 Cloris 给出的判断很直接:没有认知支架的 human-in-the-loop,最终只是把人推出那个 loop。问题不在人不够认真,而在监督这件事本身没有被设计。

她列了五条提升监督效率的实操建议,逐条看:

  1. 预承诺:在查看 AI 建议之前,先自己写下判断,避免被 AI 的建议先入为主带着走。
  2. 批量 diff 审查:把相关操作打包成对比清单一起审查,而不是逐个点同意。
  3. 有界自主:预先规定哪些小事 AI 可以直接执行,哪些必须由人类批复。
  4. 关键节点强制思考探针:在重要决策时弹出问题,迫使监督者先思考再决定。
  5. 休息轮岗与技能维护:强制休息、岗位轮换,并定期亲自完成任务以保持技能。

这五条的共同点,是把"人要不要看"变成"人怎么看"。逐个点同意之所以让人麻木,是因为每一次点击都不需要判断力;而预承诺、批量 diff、思考探针,都是在审批动作里重新塞回判断的成本。

有界自主解决的是另一头的问题:如果所有事都等人批复,人就成了瓶颈,疲劳是必然结果。提前划清哪些小事 AI 可以直接做,等于把人的注意力留给真正需要判断的节点。

最后一条容易被忽略。定期亲自完成任务以保持技能,听起来像老生常谈,但放在 agent 长期代劳的场景里,它决定了监督者还有没有能力看出问题。技能退化之后,审批就只剩形式。

这套建议没有涉及具体工具或产品,讲的是流程设计。对正在把 agent 接进工作流的团队来说,值得先问一句:现在的 loop 里,人到底在做什么。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
马斯克,大消息!

马斯克,大消息!

魏家东
2026-10-18 10:34:52
开门黑!广东男篮1分惜败不敌同曦,徐杰16+5弗格17+5+3,郭昊文23分

开门黑!广东男篮1分惜败不敌同曦,徐杰16+5弗格17+5+3,郭昊文23分

中国篮坛快讯
2026-10-18 21:54:15
张水华夺冠!刷新PB+破赛会纪录获10万奖金 回应:天时地利人和

张水华夺冠!刷新PB+破赛会纪录获10万奖金 回应:天时地利人和

念洲
2026-10-18 11:30:47
多名院士呼吁停止食用:高胆固醇“加速器”,上了年纪尽早戒掉

多名院士呼吁停止食用:高胆固醇“加速器”,上了年纪尽早戒掉

牛锅巴小钒
2026-10-17 03:47:35
9月居民贷款诡异的归零,房价的玩笑这次开大了

9月居民贷款诡异的归零,房价的玩笑这次开大了

重远投资观
2026-10-18 17:08:58
无缘首胜,山东高速男篮84-95不敌辽宁男篮

无缘首胜,山东高速男篮84-95不敌辽宁男篮

闪电新闻
2026-10-18 21:46:36
徐浦大桥车祸白车司机事发后蹲地上猛抽烟,他其实也非常后悔

徐浦大桥车祸白车司机事发后蹲地上猛抽烟,他其实也非常后悔

映射生活的身影
2026-10-18 11:12:44
轮到日本掀桌,中俄警告无效,日本正式宣布,高市:拥核不再是选择

轮到日本掀桌,中俄警告无效,日本正式宣布,高市:拥核不再是选择

徐癘解说
2026-10-17 10:00:20
俄圣彼得堡石油码头遭袭起火!年吞吐量超1250万吨,数据中心也遇袭,2万人断电

俄圣彼得堡石油码头遭袭起火!年吞吐量超1250万吨,数据中心也遇袭,2万人断电

红星新闻
2026-10-18 16:58:20
刘德华携朱丽倩聚餐!65岁这状态绝了,60岁老婆全身白嫩似少女

刘德华携朱丽倩聚餐!65岁这状态绝了,60岁老婆全身白嫩似少女

调侃国际观点
2026-10-18 19:53:05
悲催!一对孟加拉夫妇被砍头,在沙特阿拉伯清真寺内实施“不道德行为”,相关视频在网络传播

悲催!一对孟加拉夫妇被砍头,在沙特阿拉伯清真寺内实施“不道德行为”,相关视频在网络传播

火山詩话
2026-10-18 06:42:43
日本一副市长在庆典活动意外身亡:被高约5.5米、重约3吨的太鼓台压死,警方正在调查事故原因

日本一副市长在庆典活动意外身亡:被高约5.5米、重约3吨的太鼓台压死,警方正在调查事故原因

极目新闻
2026-10-18 11:59:25
广西大学深夜发布情况通报

广西大学深夜发布情况通报

政知新媒体
2026-10-18 07:11:59
到处都在过紧日子,为什么税务招了近七成的国考编制?

到处都在过紧日子,为什么税务招了近七成的国考编制?

大何日拱一卒
2026-10-18 18:19:37
秒怂!在莫斯科教室披旭日旗大闹课堂的中国留学生,被举报至大使馆后拍视频道歉

秒怂!在莫斯科教室披旭日旗大闹课堂的中国留学生,被举报至大使馆后拍视频道歉

不掉线电波
2026-10-16 15:03:07
刘欢妻子卢璐:主动脉血管破裂,命悬一线,刘欢的选择让人泪目

刘欢妻子卢璐:主动脉血管破裂,命悬一线,刘欢的选择让人泪目

今日养生之道
2026-10-18 17:56:23
中国留学生在课堂身披旭日旗,莫斯科大学中国学联通报:校方已启动调查

中国留学生在课堂身披旭日旗,莫斯科大学中国学联通报:校方已启动调查

蓬勃新闻
2026-10-18 16:18:46
建议严惩,蝎子摆尾重出江湖,CBA变武术场,张宁被球迷怒喷

建议严惩,蝎子摆尾重出江湖,CBA变武术场,张宁被球迷怒喷

宗介说体育
2026-10-18 09:57:06
北京险胜吉林:布朗首秀31+5+7三分准绝杀 周琦21+17姜伟泽29分

北京险胜吉林:布朗首秀31+5+7三分准绝杀 周琦21+17姜伟泽29分

醉卧浮生
2026-10-18 21:41:02
上海演员吴越凌晨发文怒斥:这位“花姐”骗了多少人的钱?请如数奉还!

上海演员吴越凌晨发文怒斥:这位“花姐”骗了多少人的钱?请如数奉还!

上观新闻
2026-10-18 09:53:50
2026-10-18 22:03:00
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
227文章数 82关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

女子花万元为女儿报名音乐剧"主演" 结果一句台词都没

头条要闻

女子花万元为女儿报名音乐剧"主演" 结果一句台词都没

体育要闻

巴萨5-2贝蒂斯11连胜 亚马尔传射金球先生处子球

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

家居
游戏
健康
亲子
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

从宝马到CHERRY:大牌为何扎堆赞助2026《永恒之塔》APL?

看着很健康的人,怎么会突然猝死?

亲子要闻

意外真不知道哪一天会来,回到家乱成一团团——这就是我们一家七口的真实生活

军事要闻

乌克兰全国超15处重要能源设施遭俄袭击 泽连斯基发声

无障碍浏览 进入关怀版