网易首页 > 网易号 > 正文 申请入驻

大模型蒸馏要完了?Anthropic Fable5.1 给Claude思考过程"上锁"

0
分享至

刚刚,Anthropic发布了Fable 5.1。


值得注意的一个细节是,随着新版本上线,Anthropic也对Claude API的一个关键机制进行了调整。

在最新文档描述中,Fable 5.1改变了Messages API处理思考块的方式。

对于新API账户,开发者不能再在多轮对话中随意编辑思考块周围的上下文,包括消息、工具和系统提示。

所谓“思考块”,是Claude在生成最终答案之前产生的推理步骤。

在API中,这些内容会以“思考块”的形式返回给用户。在多轮对话中,API用户通常会在下一轮请求中,将这些思考块与系统提示、工具以及此前的消息一起发送回来,让Claude获得完整的对话上下文。

现在,Anthropic开始对这些内容进行一致性验证。

对于受到影响的Fable 5.1账户,如果此前思考块之前的系统提示、工具或者消息被修改,API将返回错误。API会验证思考块是否与产生它时所使用的相同系统提示、工具和消息一起被发送回来。

如果开发者确实需要修改此前的上下文,可以选择使用“非严格”模式。此时请求仍然可以继续,但受到影响的思考块会从模型看到的内容中删除。模型将在看不到这些此前思考内容的情况下继续响应,API返回结果也会告知开发者哪些思考块被删除。

Anthropic解释,这一改变主要针对AI蒸馏。

改变对话早期轮次,是非法蒸馏活动中常见的技术。其目的之一,是提取高级模型的能力,尤其是模型的思考过程,并将这些能力用于训练另一个未经授权的模型。

Anthropic称,这类蒸馏通常可以工业规模进行,使用数千个虚假账户。


此前,Anthropic已经对Claude的思考块进行加密,以防止这类行为。

但又发现,如果攻击者先修改思考块之前的对话内容,就可能让Claude重新解密并输出此前的推理。

这样训练出来的系统,可以继承原本不具备的能力,同时却不一定继承原模型针对网络攻击、武器开发等广泛滥用风险建立的安全保障措施。

因此,这次API调整的目标,就是让这种蒸馏活动更加困难。

Anthropic表示,这项措施建立在现有反蒸馏措施之上,包括增强的蒸馏分类器,以及限制从更高级模型向具有较弱安全保障的低能力模型转移会话或推理。

不过,这一变化也可能影响正常的API集成。

Anthropic特别提到,一些会在对话进行到一半时重写早期轮次的集成可能需要调整,例如上下文压缩和注入系统提醒等场景。

Anthropic同时指出,保持思考块与原始上下文一致也有额外好处:API可以更频繁地重复利用缓存提示,从而降低成本和响应时间。

这项更新目前并不是对所有账户立即生效。

在Fable 5.1上,更新适用于2026年8月31日12:00:00 UTC之后创建的新API账户。

具体包括这一日期之后创建的新Claude Platform组织、Amazon Bedrock账户、Google Cloud Vertex AI项目以及Microsoft Azure Foundry项目。

Anthropic采取的是分阶段执行方式,从新账户开始,因为这些账户中观察到的蒸馏相关滥用浓度最高。

现有账户目前不会受到影响,这也给开发者留下时间,让测试框架和API集成适应新的处理方式。

但Anthropic已经明确表示,未来模型也将采用这一机制,并最终适用于所有用户。

需要注意的是,Claude Code、Claude Cowork、Claude.ai以及通过第三方产品使用Claude的用户不受此次变化影响;Fable 5.1之外的模型也不受影响。

从API层面看,这次变化并不是简单地禁止用户获取思考内容,而是改变了一个关键规则。

如果你想让模型继续看到此前的思考块,那么此前产生这些思考的系统提示、工具和消息上下文就必须保持一致。

Anthropic希望通过这一机制,堵住利用修改历史对话来获取和批量提取模型推理能力的路径。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
心理学家用40年研究发现:摆脱内耗的尽头不是“接纳”,不是“释怀”,而是你敢不敢正视埋在潜意识里的那两个思维陷阱

心理学家用40年研究发现:摆脱内耗的尽头不是“接纳”,不是“释怀”,而是你敢不敢正视埋在潜意识里的那两个思维陷阱

心理观察局
2026-09-10 07:13:07
郭富城两个女儿成刘德华女儿的校友,郭富城透露:不希望两个孩子只顾着读书,最后变成大近视

郭富城两个女儿成刘德华女儿的校友,郭富城透露:不希望两个孩子只顾着读书,最后变成大近视

台州交通广播
2026-09-12 00:40:56
官员脱口而出“就听听”,蓝营密集炮轰真“失言”,被特朗普连续点名批评,台当局相当紧张

官员脱口而出“就听听”,蓝营密集炮轰真“失言”,被特朗普连续点名批评,台当局相当紧张

环球网资讯
2026-09-12 06:11:12
iPhone Duo把信号电量合成一个圈,这设计你买账吗?

iPhone Duo把信号电量合成一个圈,这设计你买账吗?

菜但瘾大第一名
2026-09-11 18:11:59
上海7岁女童放学途中遭搅拌车辗轧双腿高位截肢,奶奶当场死亡,家属:事故车案发前多次超载,涉事企业应负刑责;公司负责人:愿尽力赔付

上海7岁女童放学途中遭搅拌车辗轧双腿高位截肢,奶奶当场死亡,家属:事故车案发前多次超载,涉事企业应负刑责;公司负责人:愿尽力赔付

台州交通广播
2026-09-12 09:38:02
凌晨四点!萨巴伦卡与莱巴金娜第18次交手!争世界第一后争美网冠军

凌晨四点!萨巴伦卡与莱巴金娜第18次交手!争世界第一后争美网冠军

阿嚼影视评论
2026-09-12 01:22:24
利润暴跌37%、现金流负400亿!华为不是出事,是在下一盘大棋

利润暴跌37%、现金流负400亿!华为不是出事,是在下一盘大棋

流苏晚晴
2026-09-11 13:47:58
“惩恶扬善”的铁头被判8年,谁的偶像塌房了?

“惩恶扬善”的铁头被判8年,谁的偶像塌房了?

关尔东
2026-09-11 17:49:42
杨幂给奢侈品活动站台,裙子短到露臀型,在台上不停拽底裤太尴尬

杨幂给奢侈品活动站台,裙子短到露臀型,在台上不停拽底裤太尴尬

铜臭的历史味
2026-09-12 04:21:59
新郑钦文?16岁孙心然连进3项大满贯决赛:前2次全输 这次打老对手

新郑钦文?16岁孙心然连进3项大满贯决赛:前2次全输 这次打老对手

风过乡
2026-09-12 08:32:38
苹果高管透露折叠屏泄密,有安卓厂商搞到了宽高比后抄袭!网友调侃:还好没有偷到名字

苹果高管透露折叠屏泄密,有安卓厂商搞到了宽高比后抄袭!网友调侃:还好没有偷到名字

大白聊IT
2026-09-12 00:47:44
宜宾一镇干部否认推女子入厕强奸,警方复核称“有犯罪事实”

宜宾一镇干部否认推女子入厕强奸,警方复核称“有犯罪事实”

澎湃新闻
2026-09-12 07:46:26
全民化债的时代已经来了

全民化债的时代已经来了

细说职场
2026-09-11 21:34:33
美网621万奖金!扣完税后,郑钦文真正到手多少?直接缩水了一半

美网621万奖金!扣完税后,郑钦文真正到手多少?直接缩水了一半

侃球熊弟
2026-09-12 08:00:37
特朗普连续3天许诺5000美元分红

特朗普连续3天许诺5000美元分红

界面新闻
2026-09-12 07:49:44
汽车真卖不动了!近8个月同比销量减少307万辆,跌幅达20.8%

汽车真卖不动了!近8个月同比销量减少307万辆,跌幅达20.8%

可达鸭面面观
2026-09-11 17:40:30
男子买95万二手房装修,发现卧室面积少4平米,砸开墙后顿时愣住

男子买95万二手房装修,发现卧室面积少4平米,砸开墙后顿时愣住

程哥讲堂
2025-06-02 18:21:32
太卷了!日薪不到700,网传几十名校花级女模被迫当众全裸换装,网友:这是行业惯例

太卷了!日薪不到700,网传几十名校花级女模被迫当众全裸换装,网友:这是行业惯例

火山詩话
2026-09-12 05:55:35
耐克、刘翔均从未向市场公开承认过存在每年200万美元合同类似合作;耐克对外公布过的终身合作运动员不包括刘翔

耐克、刘翔均从未向市场公开承认过存在每年200万美元合同类似合作;耐克对外公布过的终身合作运动员不包括刘翔

鲁中晨报
2026-09-11 12:11:05
小学生从7楼坠下砸烂宝马车,车主再发声:得知定损约5万,家长态度忽转变

小学生从7楼坠下砸烂宝马车,车主再发声:得知定损约5万,家长态度忽转变

新民周刊
2026-09-11 20:56:00
2026-09-12 10:32:49
AI先锋官 incentive-icons
AI先锋官
AIGC大模型及应用精选与评测
668文章数 104关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

牛弹琴:一支拖鞋军突然扭转战局 正在改写中东格局

头条要闻

牛弹琴:一支拖鞋军突然扭转战局 正在改写中东格局

体育要闻

老鹰真正的底气来自于什么?

娱乐要闻

港媒曝钟丽淇疑患渐冻症,本人发文

财经要闻

继房子茅台之后 中产的第"神话"也破灭了

汽车要闻

买菜车也有小乐趣 风云T7不止是台合格家用SUV

态度原创

健康
亲子
教育
公开课
军事航空

手脚发麻口齿不清?也可能是中风!

亲子要闻

一起来看玩具,小故事四

教育要闻

工作五年的一线语文教师:频繁内耗、家校学生沟通受挫,怎么办?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

涉伊朗核问题 中国和俄罗斯投下反对票

无障碍浏览 进入关怀版