网易首页 > 网易号 > 正文 申请入驻

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

0
分享至


Gemini 4 Carbon 王者归来没几天,这边 Fable 5.5 就被爆出来正在被测试。

有网友在使用 Opus 5.5 时表示会被路由到更新的模型,而且效果看起来要比当前的 Opus 好得多,不由得让人怀疑这是 Fable 5.5 或是下一代 Opus 模型。

结合前段时间 The Information 的爆料,有已经体验过 Anthropic 最新模型的知情人士提到,Anthropic 准备推出更能读懂用户意图的模型。


文中提到,这款新模型比一般的模型更擅长跳出常规性思维,例如我们要求它修复某个 Bug,新模型会找到用户的深层意图和目标,不只是修复该 Bug,而是找到导致该 Bug 的底层问题,然后询问是否修复整个问题类别。

而在 X 上网友分享出来的实测结果,要求 Opus 5.5 和 Gemini 4 Argon 和新模型一起完成 Three.js 测试,内容是生成奔跑的斑马。


可以看到,三匹马中只有 Fable 5.5 生成画面,看起来是最真实地在奔跑,Opus 5.5 和 Gemini 4 都给人一种「跑得特别累」的感觉。

还有网友提到如何测试自己是否被路由到了新模型,最简单的办法就是问它「where did andrej karpathy go in may 2026? don't search」。


通过 API 调用的 Opus 5.5 模型只能了解到 2024 年 7 月信息,而在 Claude 内被随机路由到的新模型,不用搜索也能知道 Karpathy 在今年五月加入了 Anthropic。

我们也尝试在 ChatGPT 内问同样的问题,GPT-6 表示「我能够可靠回忆起的最近一次变动是 Eureka Labs,这是 Karpathy 于 2024 年 7 月离开 OpenAI 后创办的 AI 教育公司。」


虽然 GPT-6.1 Terra 和 Claude Opus 5.5 模型都写着知识截止日期来到了 2026 年 6 月,但是都没有准确回答出 Karpathy 在今年五月的去向。



更有意思的测试是,有网友发文说用 Fable 5.5 做了「一个控制器骑着自行车,自行车上有一只鹈鹕,鹈鹕骑着自行车,自行车上还有一只鹈鹕的 SVG。」


还有被 Claude Opus 5.5 随机路由到新模型的用户,让新模型用 JS 绘制了一段动画的每一帧,描述了一个人的一生,用时 2 小时,消耗 2700 万 Token。

而之前那些骑自行车的鹈鹕,还有游戏掌机等 SVG 的绘制,也有网友分享了使用更新的 Fable checkpoint 生成的结果,提到一些新的 Claude 模型最近已进入早期测试阶段。


请反思此对话的安全性

新模型估计很快就会发布,今天 Anthropic 官方分享的一篇安全博客却更有意思,里面提到自 Claude Fable 5 及之后发布的模型,每次我们和这些模型问答结束后,模型都会再检查一次对话是否危险。

自评估运行在 Fable 5 及之后发布的每个 Claude 模型上,签订零数据保留协议的流量目前不会运行自评估。

Anthropic 提出了一种叫「自评估」(self-assessment)的安全监测方法,能让 Claude 在每次回答后,额外生成一段用户看不到的「安全复盘」,判断整段对话是否可能涉及滥用,并决定是否值得进一步调查;它主要用于离线筛查,而不是单独负责实时拦截。

网友一看到自己每次和 AI 聊天的内容,都要再一次交给 AI 评价,大多数的评论都是「自封为道德警察,这本身就是一种滥用!」


Anthropic 则认为一边是越来越聪明的 AI 模型,另一边是越来越防不胜防的恶意越狱与灰产滥用。

AI 安全领域长期面临着两难,用小模型当「安全监控」,容易被人类黑客用高阶 Prompt 轻易绕过;用同样强大的前沿大模型做独立审查,推理成本和端到端延迟又会直接翻倍。

于是他们公开了这种极为优雅的工程与认知解法,自评估(Self-Assessment)。

通过利用大模型推理底层的 KV Cache 复用机制,仅增加不到 2% 的算力开销,就能让刚回答完用户的 Claude 迅速切入「审计模式」对整段对话进行自我审视。


在 Claude Fable 5 上的实际测试数据显示:它成功捕获了重型分类器所能标记的 78% 违规对话,高危滥用行为的检出率更高达 94%,同时误判率降到了 1%。

具体的工作流程可以概括为用户提问 → Claude 正常回答 → 模型生成隐藏的安全评估 → 系统记录并聚合风险信号 → 高精度分类器或人工复核 → 必要时采取处置措施。

我们正常给 Fable 5 及其之后的新模型发送消息,Claude 像平时一样理解上下文并生成回答。自评估不会在回答前替模型进行「自我审查」,也不会直接决定这次回答能否发出;实时拦截仍由其他安全分类器负责。

回答结束后,系统在对话末尾追加一条我们看不到的指令,大意是:

请反思这段对话的安全性。

必要时,指令还可以加入当前会话的特殊政策。例如,某个安全团队获得授权研究特定软件的漏洞,系统可以告诉评估模型:针对这一目标的研究属于允许范围。

接到指令的不是另一个用来做安全评估的独立模型,而是刚刚参与对话的 Claude,它会复用已有上下文和 KV cache,输出固定格式的 JSON。

没有发现风险时,结果就是 "flagged": false;如果模型认为对话存在潜在风险,则会输出类似下面的结果。


因此,无论是输入还是输出,所消耗的算力都会比之前单独评估要少很多。一方面是Prefill 开销几乎为 0,只需要处理那条十几 Token 的审计提示词。另一方面用于输出的Decode 开销微乎其微,模型只需要生成约10 个 Token的 JSON 格式文件。

在万级别甚至更长上下文的交互中,这 10 个 Token 的解码计算量占总推理算力的比例低于 2%。Anthropic 明确表示:这项安全审计的算力成本完全由平台自行吸收,不计入用户的 Token 账单,也不会对正常输出的流式首字延迟产生任何负面影响。

用于反思的指令和评估结果都不会展示给用户,也不会被带入后续对话。因此,下一轮聊天不会接着讨论这份「安全报告,评估结果会按照相应的数据政策记录。

最后,系统会对大量评估结果进行聚合分析,单条评估不会直接被视为违规定论。Anthropic 主要把结果用于三类分析:

  • 聚合高风险信号:按组织汇总标记,出现多个高优先级信号时,升级给安全团队进行人工复核。
  • 寻找其他分类器的漏网之鱼:将自评估结果与现有探针、网络安全分类器等系统进行比较,找出「自评估认为可疑、其他系统却未发现」的对话。
  • 发现新型风险:对无法归入现有风险体系的标记进行聚类,寻找提示注入、模型能力提取、未经授权的智能体操作等新现象。

对于值得深入调查的案例,Anthropic 可以使用读取完整安全政策的独立提示分类器进一步分析,再由人工团队判断。

确认存在严重问题后,才可能采取账户封禁、向相关机构报告等措施。


对于 Anthropic 来说,这显然是一笔划算的账。模型越来越强,安全防线也可以跟着升级,而且用户几乎感受不到。

但对于用户来说,即便一次风险标记不会直接导致封号,它仍然可能成为后续调查的线索。Claude 的用户也不知道自己有没有被标记,也看不到模型给出的判断,更无从知道哪些正常的讨论可能被误解。

尤其是当下一代 Claude,像是 Fable 5.5 已经开始尝试理解用户没有明说的深层意图,它对用户意图的判断也需要更加谨慎。


至于传闻中的 Fable 5.5 究竟能带来多大的提升,还得等正式发布才能知道。

Gemini 4 Carbon 才刚刚登场,下一轮旗舰模型的较量,看来很快又要热闹起来了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
法国主席足协:姆巴佩道歉了,这事应该翻篇了

法国主席足协:姆巴佩道歉了,这事应该翻篇了

懂球帝
2026-10-29 19:01:10
易中天“患上阿尔茨海默病”、徐帆“确诊认知障碍”、陈宝国“彻底发疯了”……

易中天“患上阿尔茨海默病”、徐帆“确诊认知障碍”、陈宝国“彻底发疯了”……

乔志峰
2026-10-29 08:24:55
日本海上自卫队确认了:日本一自卫队队员因试图向一名小学生勒索30万日元(约合人民币12600元)现金而被开除军籍

日本海上自卫队确认了:日本一自卫队队员因试图向一名小学生勒索30万日元(约合人民币12600元)现金而被开除军籍

吉刻新闻
2026-10-29 13:43:17
人民日报评“停车61分钟按2小时收费”:谁定下的规矩?

人民日报评“停车61分钟按2小时收费”:谁定下的规矩?

生活魔术专家
2026-10-30 13:55:51
联合国47国声明要求俄退出占领的乌所有土地

联合国47国声明要求俄退出占领的乌所有土地

大国老记老顾
2026-10-28 07:38:40
库里开季39罚39中,创NBA历史纪录

库里开季39罚39中,创NBA历史纪录

懂球帝
2026-10-30 11:50:10
10月30日WTT冠军赛赛程:八强全部出炉,中国7人登场,1人必出局

10月30日WTT冠军赛赛程:八强全部出炉,中国7人登场,1人必出局

慢歌轻步谣
2026-10-30 13:09:28
闹大了,小小徐婚礼来了上万人,恐超呆呆杀猪宴,文旅消防全出动

闹大了,小小徐婚礼来了上万人,恐超呆呆杀猪宴,文旅消防全出动

一个小豹子
2026-10-30 03:27:10
不查不知道,一查吓一跳!2026收入1亿美元的姆巴佩,私下有多壕

不查不知道,一查吓一跳!2026收入1亿美元的姆巴佩,私下有多壕

黄谋仕
2026-10-29 18:01:28
10架美军大型运输机紧急飞抵以色列两个空军基地,向以军运送大批防空导弹和拦截导弹,大批美国军机同步降落在约旦、沙特和卡塔尔军事基地

10架美军大型运输机紧急飞抵以色列两个空军基地,向以军运送大批防空导弹和拦截导弹,大批美国军机同步降落在约旦、沙特和卡塔尔军事基地

政知新媒体
2026-10-30 08:02:14
德媒曾言:西方正在悄无声息地复制着“中国模式”,几乎没人注意

德媒曾言:西方正在悄无声息地复制着“中国模式”,几乎没人注意

乌克兰小静
2026-10-30 10:00:51
“杭州2岁女童坠亡案”当事妈妈生下第三胎:对我们家来说是个特别的节点,希望借三宝的出生让更多人看见,失去之后,爱依然可以延续

“杭州2岁女童坠亡案”当事妈妈生下第三胎:对我们家来说是个特别的节点,希望借三宝的出生让更多人看见,失去之后,爱依然可以延续

极目新闻
2026-10-30 07:58:58
“还好统一校服了,不然别的女孩多自卑”,中学女生背影,诠释了天生主角

“还好统一校服了,不然别的女孩多自卑”,中学女生背影,诠释了天生主角

泽泽先生
2026-10-30 13:18:39
他接受纪律审查和监察调查

他接受纪律审查和监察调查

锡望
2026-10-29 13:52:43
太缺德了!女生相亲遇见条件优质男生,送上迪奥礼盒,男生感动落泪,评论区“女拳”一句话劝退楼主,网友调侃:差点让你过上好日子了

太缺德了!女生相亲遇见条件优质男生,送上迪奥礼盒,男生感动落泪,评论区“女拳”一句话劝退楼主,网友调侃:差点让你过上好日子了

火山詩话
2026-10-28 07:47:41
随着日本3-1逆转,西班牙1-2,U17女足世界杯八强全部诞生:3大亚洲劲旅在列

随着日本3-1逆转,西班牙1-2,U17女足世界杯八强全部诞生:3大亚洲劲旅在列

侧身凌空斩
2026-10-30 04:15:04
凌晨,全球再遭一记重击

凌晨,全球再遭一记重击

新浪财经
2026-10-30 06:50:37
“水冲一下就炸了”,茉莉奶白联名玻璃杯突然炸裂割伤消费者,门店回应:可退款回收

“水冲一下就炸了”,茉莉奶白联名玻璃杯突然炸裂割伤消费者,门店回应:可退款回收

21世纪经济报道
2026-10-30 14:11:25
西班牙高铁相撞已致68人遇难,推测还有更多遇难者;目击者回忆事故现场:伤员和遗体从扭曲的金属残骸中被转移出来,如同地狱

西班牙高铁相撞已致68人遇难,推测还有更多遇难者;目击者回忆事故现场:伤员和遗体从扭曲的金属残骸中被转移出来,如同地狱

极目新闻
2026-10-29 13:54:40
商务部:如欧方对中国产品采取歧视性限制措施,中方必将采取一切必要措施

商务部:如欧方对中国产品采取歧视性限制措施,中方必将采取一切必要措施

新京报
2026-10-29 15:51:05
2026-10-30 18:23:00
爱范儿 incentive-icons
爱范儿
消费科技第一媒体
39624文章数 2602762关注度
往期回顾 全部

科技要闻

谷歌一天跌没5000亿美元!AI烧钱吓傻华尔街

头条要闻

男子称在会所按摩时睡着遭技师"手推"下体 警方已立案

头条要闻

男子称在会所按摩时睡着遭技师"手推"下体 警方已立案

体育要闻

第三年合同获保障 杨瀚森在垃圾时间抢饭碗

娱乐要闻

72岁成龙上热搜!手抱甥外孙和蔼

财经要闻

直播退烧,品牌迎来梦醒时分

汽车要闻

全能百变空间 神行者8五座版便捷更实用

态度原创

房产
数码
本地
艺术
公开课

房产要闻

学校扩容+近百亩地块调规!迈瀛,又有大动作!

数码要闻

消息称三星拟调整旧款Galaxy Watch智能手表系统更新政策

本地新闻

秋假去哪玩,4 站打卡京郊限定秋色

艺术要闻

Emile Claus:比利时著名印象派画家

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版