网易首页 > 网易号 > 正文 申请入驻

大模型蒸馏要完了?Anthropic Fable5.1 给Claude思考过程"上锁"

0
分享至

刚刚,Anthropic发布了Fable 5.1。


值得注意的一个细节是,随着新版本上线,Anthropic也对Claude API的一个关键机制进行了调整。

在最新文档描述中,Fable 5.1改变了Messages API处理思考块的方式。

对于新API账户,开发者不能再在多轮对话中随意编辑思考块周围的上下文,包括消息、工具和系统提示。

所谓“思考块”,是Claude在生成最终答案之前产生的推理步骤。

在API中,这些内容会以“思考块”的形式返回给用户。在多轮对话中,API用户通常会在下一轮请求中,将这些思考块与系统提示、工具以及此前的消息一起发送回来,让Claude获得完整的对话上下文。

现在,Anthropic开始对这些内容进行一致性验证。

对于受到影响的Fable 5.1账户,如果此前思考块之前的系统提示、工具或者消息被修改,API将返回错误。API会验证思考块是否与产生它时所使用的相同系统提示、工具和消息一起被发送回来。

如果开发者确实需要修改此前的上下文,可以选择使用“非严格”模式。此时请求仍然可以继续,但受到影响的思考块会从模型看到的内容中删除。模型将在看不到这些此前思考内容的情况下继续响应,API返回结果也会告知开发者哪些思考块被删除。

Anthropic解释,这一改变主要针对AI蒸馏。

改变对话早期轮次,是非法蒸馏活动中常见的技术。其目的之一,是提取高级模型的能力,尤其是模型的思考过程,并将这些能力用于训练另一个未经授权的模型。

Anthropic称,这类蒸馏通常可以工业规模进行,使用数千个虚假账户。


此前,Anthropic已经对Claude的思考块进行加密,以防止这类行为。

但又发现,如果攻击者先修改思考块之前的对话内容,就可能让Claude重新解密并输出此前的推理。

这样训练出来的系统,可以继承原本不具备的能力,同时却不一定继承原模型针对网络攻击、武器开发等广泛滥用风险建立的安全保障措施。

因此,这次API调整的目标,就是让这种蒸馏活动更加困难。

Anthropic表示,这项措施建立在现有反蒸馏措施之上,包括增强的蒸馏分类器,以及限制从更高级模型向具有较弱安全保障的低能力模型转移会话或推理。

不过,这一变化也可能影响正常的API集成。

Anthropic特别提到,一些会在对话进行到一半时重写早期轮次的集成可能需要调整,例如上下文压缩和注入系统提醒等场景。

Anthropic同时指出,保持思考块与原始上下文一致也有额外好处:API可以更频繁地重复利用缓存提示,从而降低成本和响应时间。

这项更新目前并不是对所有账户立即生效。

在Fable 5.1上,更新适用于2026年8月31日12:00:00 UTC之后创建的新API账户。

具体包括这一日期之后创建的新Claude Platform组织、Amazon Bedrock账户、Google Cloud Vertex AI项目以及Microsoft Azure Foundry项目。

Anthropic采取的是分阶段执行方式,从新账户开始,因为这些账户中观察到的蒸馏相关滥用浓度最高。

现有账户目前不会受到影响,这也给开发者留下时间,让测试框架和API集成适应新的处理方式。

但Anthropic已经明确表示,未来模型也将采用这一机制,并最终适用于所有用户。

需要注意的是,Claude Code、Claude Cowork、Claude.ai以及通过第三方产品使用Claude的用户不受此次变化影响;Fable 5.1之外的模型也不受影响。

从API层面看,这次变化并不是简单地禁止用户获取思考内容,而是改变了一个关键规则。

如果你想让模型继续看到此前的思考块,那么此前产生这些思考的系统提示、工具和消息上下文就必须保持一致。

Anthropic希望通过这一机制,堵住利用修改历史对话来获取和批量提取模型推理能力的路径。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
胡塞“闪电战”横扫红海,沙特关键油管遭袭关闭,伊朗战争开辟新战线?

胡塞“闪电战”横扫红海,沙特关键油管遭袭关闭,伊朗战争开辟新战线?

上观新闻
2026-09-12 15:55:49
电子布进入超级周期

电子布进入超级周期

经济观察报
2026-09-12 11:39:34
乌克兰这次上了俄罗斯的当!以为在红利曼把俄军主力死死包围了

乌克兰这次上了俄罗斯的当!以为在红利曼把俄军主力死死包围了

小马姨
2026-09-12 10:35:54
刑拘!全网痛骂的“白眼狼女学生”根本不存在,姚先生底裤被扒:履历全靠包装,初中都没毕业

刑拘!全网痛骂的“白眼狼女学生”根本不存在,姚先生底裤被扒:履历全靠包装,初中都没毕业

火山詩话
2026-09-11 17:25:13
人活多久,看起夜就知道?寿命短的人,起夜一般有这3个特征

人活多久,看起夜就知道?寿命短的人,起夜一般有这3个特征

芹姐说生活
2026-09-10 23:50:29
俄媒突然发现: 076不是中国版“美国级”,可能是从未设想过的物种

俄媒突然发现: 076不是中国版“美国级”,可能是从未设想过的物种

混沌录
2026-09-11 23:44:22
叙利亚16年来首次小麦自给,朱拉尼20个月做成了巴沙尔父子54年没做成的事

叙利亚16年来首次小麦自给,朱拉尼20个月做成了巴沙尔父子54年没做成的事

莫地方
2026-08-24 19:38:38
郭德纲历史最狠栽跟头:不是仇人搞他,是他动了12亿人的底线

郭德纲历史最狠栽跟头:不是仇人搞他,是他动了12亿人的底线

草莓解说体育
2026-09-12 12:37:00
红薯尽量少吃,最好不吃,尤其是这5类人,建议了解

红薯尽量少吃,最好不吃,尤其是这5类人,建议了解

芹姐说生活
2026-09-11 23:24:58
周启豪不敌张本智和,中国男子选手在澳门冠军赛全军覆没

周启豪不敌张本智和,中国男子选手在澳门冠军赛全军覆没

澎湃新闻
2026-09-12 13:04:02
2000年代五大联赛金靴,你能叫出几个名字?

2000年代五大联赛金靴,你能叫出几个名字?

甜度百分百21
2026-09-11 15:48:19
男篮狂胜巴林!廖三宁+庞峥麟淡定,教练组抗议,替补全员轻松

男篮狂胜巴林!廖三宁+庞峥麟淡定,教练组抗议,替补全员轻松

篮球资讯达人
2026-09-12 17:20:02
华住会预订房间比其他平台贵了近一倍 承诺“贵即赔”没兑现,顾客网上发帖后积分遭冻结

华住会预订房间比其他平台贵了近一倍 承诺“贵即赔”没兑现,顾客网上发帖后积分遭冻结

信网
2026-09-11 15:43:26
“只排一个急诊医生值班,人手不够就招人”家属怒斥!医生:非急诊患者挤兑资源能不忙吗?“脱白大褂躲医闹”爆火,实则是难堪的黑色幽默

“只排一个急诊医生值班,人手不够就招人”家属怒斥!医生:非急诊患者挤兑资源能不忙吗?“脱白大褂躲医闹”爆火,实则是难堪的黑色幽默

梅斯医学
2026-09-12 07:54:32
乡野人妻穿搭|白长袖+灰休闲裤,勾勒熟女丰腴自然曲线

乡野人妻穿搭|白长袖+灰休闲裤,勾勒熟女丰腴自然曲线

只要高兴就好
2026-09-12 06:18:44
5个首轮签加3000万罚单,萧华下周首次开口回应快船

5个首轮签加3000万罚单,萧华下周首次开口回应快船

林间小温柔
2026-09-12 17:15:48
罗马诺正式选择意大利!OD:获国际足联批准

罗马诺正式选择意大利!OD:获国际足联批准

比例原著解读
2026-09-12 18:19:07
7家中国AI公司!近2亿次Claude交互,Anthropic又开始发疯式“点名”

7家中国AI公司!近2亿次Claude交互,Anthropic又开始发疯式“点名”

IT小埋
2026-09-11 23:46:47
太火了!曝华为阔直板首日销售超18万台 5999元起

太火了!曝华为阔直板首日销售超18万台 5999元起

CNMO科技
2026-09-10 12:11:54
竹北市长选举民调出炉:吴旭智领先曾圣凯、邱臣远

竹北市长选举民调出炉:吴旭智领先曾圣凯、邱臣远

金牛传声
2026-09-12 16:30:03
2026-09-12 18:32:49
AI先锋官 incentive-icons
AI先锋官
AIGC大模型及应用精选与评测
668文章数 104关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

中国姐弟在智利被勒索213万元 假警局还挂特朗普画像

头条要闻

中国姐弟在智利被勒索213万元 假警局还挂特朗普画像

体育要闻

老鹰真正的底气来自于什么?

娱乐要闻

港媒曝钟丽淇疑患渐冻症,本人发文

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

本地
健康
教育
公开课
军事航空

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

手脚发麻口齿不清?也可能是中风!

教育要闻

太难了吧,是题目错了吗?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

胡塞武装:9天攻占5400平方公里

无障碍浏览 进入关怀版