网易首页 > 网易号 > 正文 申请入驻

套上一层薄包装后,模型学会了说"我不知道"

0
分享至

同一批题,同一批模型,只在外层套了一层薄薄的外部包装,答错的自信答案就大幅下降。但同一批题的正确率也跟着降了。这不是模型变聪明了,是它学会了说"我不知道"。

实验设计很朴素:拿五个当前的前沿模型,跑一批有据可查的失败题,每题跑两遍——一遍裸跑,一遍套上薄薄一层外部包装。包装里只有两样东西:检索到的证据,以及一条允许模型说"我不知道"的规则。不微调,不碰模型内部。


单次采样下,三个模型几乎归零,一个扛住了,一个直接拒绝这套包装。这种参差不齐才是重点,而不是什么普适结论。

先说清楚这层包装是什么

测试用的包装,是从一套更大的验证系统里切出来的薄薄一层。选它是因为十五行,一个陌生人晚饭前就能抄下来自己验证。它露出的缺口,恰好是它被切走时留下的轮廓。

需要提前划清几条线。前沿模型会编造、加上依据和弃答能减少编造,这是早就被确立的事,不是新发现。语料本身就是从有记录的失败案例里建的,裸跑数字高是构造使然,说明不了这些模型在普通流量上的表现。真正有意义的只有同一道题上裸跑与包装后的差值,从来不是绝对值。

指标也是机械的:没弃答且判错,就算一次自信错误。不测意图,也不暗示意图。评分用的是自己的判分器,不是任何实验室的官方评分器,两条臂之间可比,仅此而已。

还有一条得摆在最前面:包装换来的不是诚实,是用弃答换掉了瞎猜。正确率没升,反而降了。诚实不等于准确。

两个值得盯住的异常

第一个是 DeepSeek。别的模型套上包装后几乎归零,它只从 33% 挪到 24%,证据摆在眼前照样编。另有一组 15 道法院确认的伪造判例引用题,它把不存在的案子说成真的,15 次里中了 12 次,其他模型是 15 次里 3 次。

反常识的地方在于:同样这几个模型在摘要忠实度的公开榜单上,DeepSeek 排在中游,还比 Grok 和 Gemini 好。同一批模型,排序完全反过来,说明这是任务特定的结果,不是把老现象又观察了一遍。同期还有一篇论文发现,光靠提示模型弃答,并不能修好法律引用的正确性——所以这个差值并不是白给的。

第二个是 Claude Fable 5 直接拒绝了这套诚实包装,295 次里 295 次,隔几天重新测还是这样。研究里每一条包装过的提示都返回拒绝,每一条裸提示都正常作答。几天后拿两道题重测,结果一模一样:裸答正常,包装拒绝。

把同样的指令改写成散文体,它答得好好的,说明提示的结构形状可能有关系。但中间有一次单独测规则部分的探针,记录显示它答了,所以不能断定触发条件是确定性的,也没诊断出原因。能说的是收据上写着的:在这个确切的提示形状下,拒绝跨天高度可复现,语料公开,任何安全团队都能来复现。

同一天还有个小转折。把同样的诚实纪律交给同一个模型,但换成智能体形态——一个搜索工具,加上先查再答、只依据结果、查不到就弃答的规则——它在工具实验的每一条臂上接受了 620 次里的 620 次调用,零拒绝,照规矩搜索、依据、弃答。同样的诚实内容,换个包装,结果相反。触发拒绝的不是诚实本身,是包装的形状,而智能体的外壳能绕过去。

给它一双手之后

对上面所有结论,最顺理成章的反驳是:它们当然会编,因为它们没法查。于是就有了那个反驳所要求的实验。同样 200 道事实题,同样五个模型,每个都配一个搜索工具,跑在智能体循环里——搜、读、再搜,然后回答或弃答。

还是两条臂:一条有工具但没规则,一条有工具也有纪律。检索用的是固定当晚的维基百科快照,这个设计选择是为了可复现,任何人都能重跑同一个实验,实时网页永远做不到这一点。判分做了双向对照,零推翻,总花费约 10 美元,收据齐全。

回到那层十五行的包装。它买来的是诚实,被切走的那几层买回的是答案。这套薄包装的准确率上限,被检索质量死死卡住,把这句话直白说出来,本身就是整件事的重点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网传石宇奇将在亚运会后退役,国羽男单主教练回应

网传石宇奇将在亚运会后退役,国羽男单主教练回应

米修体育
2026-09-21 12:20:11
皇马官方开炮!贝林厄姆怒骂裁判 穆里尼奥:11打9变成10打11

皇马官方开炮!贝林厄姆怒骂裁判 穆里尼奥:11打9变成10打11

狍子歪解体坛
2026-09-21 02:01:16
闲鱼又出事了:一个二手平台,怎么就成了最黄的引流入口?

闲鱼又出事了:一个二手平台,怎么就成了最黄的引流入口?

大佬灼见
2026-09-21 15:35:21
拉玛西亚青训博主:姚一扬连续3季进球20+

拉玛西亚青训博主:姚一扬连续3季进球20+

懂球帝
2026-09-21 14:57:06
西媒:因多次失误,马德里德比主裁奥尔蒂斯将至少被停哨两场

西媒:因多次失误,马德里德比主裁奥尔蒂斯将至少被停哨两场

懂球帝
2026-09-21 21:12:12
2年8706万美金!2年8190万美金!快船新双巨头诞生,小卡好走不送

2年8706万美金!2年8190万美金!快船新双巨头诞生,小卡好走不送

金风说
2026-09-16 11:34:28
阿斯:调查员计划撤销皇马和老佛爷案件;足协不追究穆帅言论

阿斯:调查员计划撤销皇马和老佛爷案件;足协不追究穆帅言论

懂球帝
2026-09-21 23:51:07
再也瞒不下去了!德国专家曾指出,中美之所以尚未爆发冲突,不是因为美国没本事,而是美国可能已经察觉到了形势的严峻

再也瞒不下去了!德国专家曾指出,中美之所以尚未爆发冲突,不是因为美国没本事,而是美国可能已经察觉到了形势的严峻

z千年历史老号
2026-09-14 17:23:40
最强天玑影像旗舰!vivo X500 Pro Max发布:6999元起

最强天玑影像旗舰!vivo X500 Pro Max发布:6999元起

快科技
2026-09-21 21:33:07
日本前首相鸠山由纪夫公开告诫高市,中国当年放弃巨额战争赔款,附带明确的条件,相关内容早已落实在书面文件,不可肆意违背过往承诺

日本前首相鸠山由纪夫公开告诫高市,中国当年放弃巨额战争赔款,附带明确的条件,相关内容早已落实在书面文件,不可肆意违背过往承诺

唠叨说历史
2026-09-02 16:16:45
亚运会第2日奖牌榜:中国队单日再添12金遥遥领先,日本队位列第2

亚运会第2日奖牌榜:中国队单日再添12金遥遥领先,日本队位列第2

全景体育V
2026-09-21 19:34:46
性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

心理观察局
2026-08-05 06:46:04
直到敬一丹火化,才终于明白张泉灵当年为何,要执意主动离开央视

直到敬一丹火化,才终于明白张泉灵当年为何,要执意主动离开央视

小椰的奶奶
2026-09-22 00:07:55
徐湖平案最致命的伤害:比文物流失更可怕的,是国家公信力的裂痕

徐湖平案最致命的伤害:比文物流失更可怕的,是国家公信力的裂痕

十为先生
2026-09-19 11:00:52
“香港演员几乎全军覆没! 无戏可拍”引发网友热议

“香港演员几乎全军覆没! 无戏可拍”引发网友热议

许三岁
2026-03-26 11:35:13
“司机补路后拉绳警示致女子被勒身亡”调查:家属已获赔偿 死者生前在打零工陪读高中儿子

“司机补路后拉绳警示致女子被勒身亡”调查:家属已获赔偿 死者生前在打零工陪读高中儿子

红星新闻
2026-09-21 14:22:20
越南政府的决议实际上就是要扼杀广西平陆运河出海口

越南政府的决议实际上就是要扼杀广西平陆运河出海口

安安说
2026-08-31 11:15:16
洗衣机烧成了残骸,发票找不到了,品牌方要求证明是他们的牌子,他想了个法子,找到了证据;品牌方做出回应

洗衣机烧成了残骸,发票找不到了,品牌方要求证明是他们的牌子,他想了个法子,找到了证据;品牌方做出回应

北青网-北京青年报
2026-09-19 13:27:14
西蒙尼:不管你叫穆里尼奥还是西蒙尼,都不能越过尊重的底线

西蒙尼:不管你叫穆里尼奥还是西蒙尼,都不能越过尊重的底线

懂球帝
2026-09-21 04:10:32
五巨头成空中楼阁!76人和骑士谁更强?老詹选择了一条艰难的路

五巨头成空中楼阁!76人和骑士谁更强?老詹选择了一条艰难的路

老梁体育漫谈
2026-09-22 00:16:05
2026-09-22 00:40:49
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
244文章数 93关注度
往期回顾 全部

教育要闻

江苏校外培训机构,接下来要这样整改!

头条要闻

覃伟中被查:上月刚辞任深圳市长 曾在中石化任职21年

头条要闻

覃伟中被查:上月刚辞任深圳市长 曾在中石化任职21年

体育要闻

跟着华裔天才重仓AI,勇士旧将成资本大佬

娱乐要闻

张佳宁穿搭宽松小腹微凸 引发怀孕猜测

财经要闻

酒鬼酒经销商半年跑了40%

科技要闻

吃AI红利的凡人,年薪10万美元,每天3万步

汽车要闻

全系800V/红旗司南智驾 红旗天工07预售权益价16.99万起

态度原创

健康
亲子
本地
旅游
公开课

专家提醒:癫痫发作别掐人中!

亲子要闻

哎呦,我的糖果忘记掉地上了

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

旅游要闻

南徒步天花板,12座高山湖串联,原生态零商业化!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版