网易首页 > 网易号 > 正文 申请入驻

没有认知支架的HITL,只是把人推出循环

0
分享至

AI agent 的 human-in-the-loop,大多数只是形式上的监督。系统以 agent 为中心,把海量复杂信息抛给人类审批,监督者疲劳、技能退化、过度依赖,最后只是在批准自己没真正审查过的东西。


作者 Cloris 给出的判断很直接:没有认知支架的 human-in-the-loop,最终只是把人推出那个 loop。问题不在人不够认真,而在监督这件事本身没有被设计。

她列了五条提升监督效率的实操建议,逐条看:

  1. 预承诺:在查看 AI 建议之前,先自己写下判断,避免被 AI 的建议先入为主带着走。
  2. 批量 diff 审查:把相关操作打包成对比清单一起审查,而不是逐个点同意。
  3. 有界自主:预先规定哪些小事 AI 可以直接执行,哪些必须由人类批复。
  4. 关键节点强制思考探针:在重要决策时弹出问题,迫使监督者先思考再决定。
  5. 休息轮岗与技能维护:强制休息、岗位轮换,并定期亲自完成任务以保持技能。

这五条的共同点,是把"人要不要看"变成"人怎么看"。逐个点同意之所以让人麻木,是因为每一次点击都不需要判断力;而预承诺、批量 diff、思考探针,都是在审批动作里重新塞回判断的成本。

有界自主解决的是另一头的问题:如果所有事都等人批复,人就成了瓶颈,疲劳是必然结果。提前划清哪些小事 AI 可以直接做,等于把人的注意力留给真正需要判断的节点。

最后一条容易被忽略。定期亲自完成任务以保持技能,听起来像老生常谈,但放在 agent 长期代劳的场景里,它决定了监督者还有没有能力看出问题。技能退化之后,审批就只剩形式。

这套建议没有涉及具体工具或产品,讲的是流程设计。对正在把 agent 接进工作流的团队来说,值得先问一句:现在的 loop 里,人到底在做什么。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
21%的出口增速、1.1%的消费增速,没有内需,外需也走不远

21%的出口增速、1.1%的消费增速,没有内需,外需也走不远

子业一说财经
2026-10-18 11:08:38
4年血亏9亿!“打败皮鞋的,并不是另一双皮鞋”,皮鞋被时代抛弃

4年血亏9亿!“打败皮鞋的,并不是另一双皮鞋”,皮鞋被时代抛弃

李砍柴
2026-10-01 17:00:17
养了十年的“儿子”要上市了,估值比“父亲”还贵40%:李彦宏的倒金字塔困局

养了十年的“儿子”要上市了,估值比“父亲”还贵40%:李彦宏的倒金字塔困局

砚舟
2026-10-04 18:28:10
谁还记得芜湖方特一期?一年挣5亿,如今荒得让人认不出

谁还记得芜湖方特一期?一年挣5亿,如今荒得让人认不出

GA环球建筑
2026-10-17 14:02:35
王自如称“想与罗永浩和解”

王自如称“想与罗永浩和解”

IT之家
2026-10-18 16:37:11
网约车司机进服务区上厕所,被乘客投诉扣了13块,交通局回复了

网约车司机进服务区上厕所,被乘客投诉扣了13块,交通局回复了

原广工业
2026-10-18 11:00:18
人不会无缘无故尿路感染!这4个原因,好多人第一条就中了

人不会无缘无故尿路感染!这4个原因,好多人第一条就中了

荷兰豆爱健康
2026-10-19 01:44:55
戴笠心腹奉命抓捕李克农,见面居然先敬军礼,全程亲自护送到重庆

戴笠心腹奉命抓捕李克农,见面居然先敬军礼,全程亲自护送到重庆

纪史行者
2026-10-01 06:40:10
以赛促教,还是被赛绑架?高校教师为了一场台下没有学生、只有评委的课堂,备赛停课一学期!好课,真的是这样“赛”出来的吗?

以赛促教,还是被赛绑架?高校教师为了一场台下没有学生、只有评委的课堂,备赛停课一学期!好课,真的是这样“赛”出来的吗?

学术眺望
2026-10-18 20:30:03
中国人均消费量远低于美国,速冻巨头安井要到海外找增量

中国人均消费量远低于美国,速冻巨头安井要到海外找增量

观察者网
2026-10-18 19:50:12
退休教授夫妇18楼坠亡,警察破门发现家中满屋钞票,遗书揭露真相

退休教授夫妇18楼坠亡,警察破门发现家中满屋钞票,遗书揭露真相

悬案解密档案
2025-05-15 11:04:08
太离谱!皇马奇兵打脸穆里尼奥!38 分钟狂轰 3 球

太离谱!皇马奇兵打脸穆里尼奥!38 分钟狂轰 3 球

奶盖熊本熊
2026-10-18 07:55:31
总人口没到我国1%,研发战机比美俄更先进,武器从不依赖进口

总人口没到我国1%,研发战机比美俄更先进,武器从不依赖进口

雪儿爱追剧
2026-09-23 17:01:06
一个社交规律:低层次的社交,靠的是饭局;中层次的社交,靠的是利益;而高层次的社交,靠的却是这2个核心

一个社交规律:低层次的社交,靠的是饭局;中层次的社交,靠的是利益;而高层次的社交,靠的却是这2个核心

心理观察局
2026-08-01 07:00:12
陈伯达提出贺子珍下放大西北,毛泽东:我不同意,是谁出的主意

陈伯达提出贺子珍下放大西北,毛泽东:我不同意,是谁出的主意

纪实文录
2025-06-12 15:11:05
拉莫斯要回西甲?赫塔菲主席承认:他就在引援名单上

拉莫斯要回西甲?赫塔菲主席承认:他就在引援名单上

甜份超标的我
2026-10-19 02:37:03
张继科再次反击刘丁硕,字字扎心不留情:认识他没想到这么坏 要撕能撕碎他

张继科再次反击刘丁硕,字字扎心不留情:认识他没想到这么坏 要撕能撕碎他

球盲百小易
2026-10-18 01:28:53
“这个我们真没有……”李斌、何小鹏及车圈大V集体发声,“特斯拉会飞”三大疑问待解

“这个我们真没有……”李斌、何小鹏及车圈大V集体发声,“特斯拉会飞”三大疑问待解

极目新闻
2026-10-16 22:20:21
他睡过董卿又甩了,娶小20岁嫩妻躺平大理,如今62岁成人生赢家

他睡过董卿又甩了,娶小20岁嫩妻躺平大理,如今62岁成人生赢家

观察者小海风
2026-07-31 12:15:53
CBS资深记者发文嘲讽候选人,删帖道歉:违反新闻标准

CBS资深记者发文嘲讽候选人,删帖道歉:违反新闻标准

浅遇时光
2026-10-19 02:12:38
2026-10-19 03:20:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
245文章数 82关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

头条要闻

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

体育要闻

别在我的地盘夺冠!海港队史首次双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

房产
家居
亲子
教育
公开课

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

我将重复播放观看

教育要闻

两周收到40封举报信举报老师!校园举报乱象,谁在买单?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版