网易首页 > 网易号 > 正文 申请入驻

苹果新研究:纯中文推理训练,和用英文几乎没有差距

0
分享至


新智元报道


最近,Apple 联合 Hasso Plattner 研究所发表论文,在 9 个基座模型、11 种语言上做了超过 200 组 GRPO 强化学习推理训练实验。


https://arxiv.org/pdf/2608.13698

结果显示,用中文做推理训练,与英语训练的性能差距只有 1.1 个百分点,此前同类研究报告的差距是 10 个百分点以上。

GRPO 训练有一个关键设计选择:奖励模型用英语推理,还是用提问者的母语推理。

选英语,模型收到中文问题也会切到英语思考;选母语,模型全程用中文。

此前研究认为母语推理性能代价太大,非英语团队只能默认走英语推理路线。

这篇论文说,代价远没有那么大——对中文来说只有 1 个百分点。这直接改变了路线判断:中文推理模型有条件从训练阶段就跳过英语,走自己的路。

对中文 AI 从业者来说,这是推理模型能否走独立路线的前置条件。

论文同时发现,跨语言迁移广泛有效,但特定模型-语言组合会触发极端性能塌方。

200 组实验回答一个问题:
推理必须用英语吗

此前多项研究报告,强制模型用非英语语言做推理,准确率会下降 10 个百分点甚至更多,「推理必须用英语」几乎成了多语言 AI 领域的默认共识。

Dobler 等人的新论文用大规模对照实验动摇了这条共识:三个模型家族(Qwen3、Gemma 3、SmolLM3),参数规模 1B 到 8B,11 种训练语言,每种语言分别用英语推理奖励和母语推理奖励两套方案训练 500 步,再交叉评估。

结论的关键数字按语言拆开看更清楚。

中文训练的英语优势只有 1.1 个百分点,法语 1.4、德语 1.7、日语 1.6——高资源语言(指语料丰富的语言)普遍在 2 个百分点以内。

差距拉大的是低资源语言:孟加拉语 5.7、泰卢固语 4.6、斯瓦希里语 4.5 个百分点。


语言本身在预训练阶段积累的资源厚度,直接决定了母语推理训练的性价比。

一种语言训练,多种语言受益

实验中另一个值得拆开看的数据结构,是跨语言迁移矩阵。

论文把 11 种语言分别做单语训练,再在所有 14 种语言上评估,形成一张 11×14 的性能表。

这张表里最直观的信息是:用一种语言训练 GRPO,其他语言几乎都跟着涨。

西班牙语单语训练之后,法语的性能恢复了目标语言直接训练增益的 96%,只差 1 个百分点。中文和日语之间的互相迁移同样明显,中日同属 CJK 语系的预训练共享可能在起作用。

一个反直觉的发现是:英语并不总是最好的迁移源。

在 Qwen3-4B-Base 和 Qwen3-8B 上,孟加拉语训练对中文的迁移效果反而最好。

论文作者推测,低资源语言的训练迫使模型更深层地重组推理能力,这种重组带来的泛化有时比高资源语言训练更强。

多语言混合训练的表现也值得关注。

Qwen3-Base 系列在多语言训练下,与「为每种评估语言分别挑选最优迁移源」的理想方案相比,平均只差 0.3 个百分点,而只需要训练一个模型。

对于资源有限的团队,这提供了一条务实的路径:不必为每种目标语言单独跑训练。

也存在性能崩塌的情况

跨语言迁移的好消息,被一种特定的失败模式冲淡了。

论文发现,某些模型-训练语言的组合会导致其他语言或任务类型上的极端回退,而同一个模型换一种训练语言就完全没有这个问题。

最严重的案例出在 Qwen3 系列非 Base 模型上。

用斯瓦希里语或泰卢固语训练后,这些模型在含英语内容的未见任务上出现了高达 19.2 个百分点的性能崩塌(Qwen3-4B 斯瓦希里语训练),而在训练语言本身上性能正常甚至提升。

换成英语或多语言训练,同一批任务的性能保持稳定。

困难数学任务上的回退更普遍。

Qwen3 非 Base 系列、SmolLM3-3B 在非英语单语训练后,PolyMath 中高难度题目的平均分大面积下滑,部分配置跌幅超过 30 个百分点。


但同模型在其他任务上表现正常,回退高度集中在特定任务族。

推理奖励语言本身也能触发塌方。

gemma-3-1b-it 用斯瓦希里语数据加母语推理奖励训练后,简单数学任务(MGSM 和 PolyMath-low)的性能比原始模型下降 3.1 个百分点;

但同样的数据搭配英语推理奖励,性能反而提升 17.5 个百分点。

差距超过 20 个百分点,且在同模型的孟加拉语训练中不会出现。

回退无法从模型或语言中单独预测,只有在特定组合下才会暴露。

中文之外
所有非英语生态都在问同一个问题

回到中文从业者最关心的判断——中文推理训练到底能不能用。

从这篇论文的数据看,答案接近「能用」。

中文在所有被测语言中属于差距最小的一档(1.1 个百分点),Qwen3-Base 全系列模型的中文推理奖励训练都能有效控制推理语言,跨语言迁移中中文既是好的接收方也是好的发送方。

这组结果在 9 个模型上一致,不是孤例。

但这个结论的适用范围需要明确:论文测的是 8B 以下的开源模型,任务是程序化生成的数学和逻辑题,单种子实验,没有做逐配置的超参调优。真实部署场景中的表现还需要单独验证。

把视野从中文放宽一步,这篇论文给出的信号对整个非英语 AI 生态都有意义。

过去一年,从阿拉伯语到法语到日语,各语言社区都在问同一个问题:推理训练是否必须绕道英语?

如果答案是「必须」,那非英语模型永远在英语模型的下游做适配;

如果答案是「差距可控」,非英语生态就有可能从推理训练阶段就走自己的路线。

这篇论文把「差距可控」从猜测变成了有数据支撑的判断——至少在高资源语言和中小模型上如此。

差距压缩到 1–2 个百分点之后,从 RLVR 训练阶段就用目标语言跑,就变成一个合理的工程选择,性能代价可以接受。

对中文 AI 来说,中文推理模型有可能从训练源头就走独立路线,跳过英语推理模型的翻译适配层。

但论文同时证明了一件事:「可控」和「安全上线」之间差的是评估覆盖度。

只看目标语言的平均分,回退藏在暗处;逐语言、逐任务、逐模型排查,才能把风险暴露在上线之前。

这 200 组实验最大的贡献,恰恰是证明了这种排查不可省略。

参考资料:https://arxiv.org/pdf/2608.13698

编辑:马可

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
演员王鸥承认单身生子:我目前独自养育一个孩子,孩子尚且年幼,希望大家不要过度聚焦私人生活,留给小朋友一片可以自在成长的安静空间

演员王鸥承认单身生子:我目前独自养育一个孩子,孩子尚且年幼,希望大家不要过度聚焦私人生活,留给小朋友一片可以自在成长的安静空间

扬子晚报
2026-08-31 17:16:22
没料到!勒庞决选通杀,亲华派跌剩2%支持率,法国恐怕要大变天

没料到!勒庞决选通杀,亲华派跌剩2%支持率,法国恐怕要大变天

共工之锚
2026-09-02 00:23:56
对巴萨生气吗?卡萨多:我们谈过了,双方都有要改变的地方

对巴萨生气吗?卡萨多:我们谈过了,双方都有要改变的地方

懂球帝
2026-09-02 18:59:12
大陆特使一看,台当局也被邀请,撂下一句后果自负,扭头离开会场

大陆特使一看,台当局也被邀请,撂下一句后果自负,扭头离开会场

林子说事
2026-09-02 02:08:16
6大离队球星!杜兰特要走?绿军4换1!火箭留不住吗?

6大离队球星!杜兰特要走?绿军4换1!火箭留不住吗?

篮球盛世
2026-09-02 12:23:39
买冰箱别忘了选门型:三开门小,十字门贵,对开门最不推荐!

买冰箱别忘了选门型:三开门小,十字门贵,对开门最不推荐!

装修秀
2026-07-30 11:30:10
CCTV5直播!中国女篮今晚死磕美国,1分惜败西班牙的她们,能否在8名WNBA状元头上抢下小组第二

CCTV5直播!中国女篮今晚死磕美国,1分惜败西班牙的她们,能否在8名WNBA状元头上抢下小组第二

静谧而安g
2026-09-02 12:23:17
中国男篮升到第五!FIBA官方盛赞杨瀚森:中国约基奇终于崛起了

中国男篮升到第五!FIBA官方盛赞杨瀚森:中国约基奇终于崛起了

追球者
2026-09-02 15:40:32
拒绝退役!33岁郭艾伦正式表态,新赛季去向或已定,未来有望重回辽宁

拒绝退役!33岁郭艾伦正式表态,新赛季去向或已定,未来有望重回辽宁

兵哥篮球故事
2026-09-01 17:30:58
中国如今面临的最大问题:已经不是如何发展、如何致富了?

中国如今面临的最大问题:已经不是如何发展、如何致富了?

蜉蝣说
2026-08-30 19:26:34
研究发现:早饭经常吃鸡蛋的人,不出半年时间,身体或有7种变化

研究发现:早饭经常吃鸡蛋的人,不出半年时间,身体或有7种变化

叙说医疗健康
2026-09-02 06:00:20
以媒:歼-10C将是以色列的严重威胁!

以媒:歼-10C将是以色列的严重威胁!

利刃号
2026-09-02 00:11:30
华为新品突然官宣:9月7日,即将发布

华为新品突然官宣:9月7日,即将发布

搞机小帝
2026-09-02 18:34:02
苹果新任CEO年薪曝光:300万美元加目标价值5500万美元股权奖励;首封内部信称下周新品发布将惊艳四座

苹果新任CEO年薪曝光:300万美元加目标价值5500万美元股权奖励;首封内部信称下周新品发布将惊艳四座

极目新闻
2026-09-02 08:54:06
事闹大了?伊朗总统开会还没回国,亲生儿子就要被革命卫队定罪?

事闹大了?伊朗总统开会还没回国,亲生儿子就要被革命卫队定罪?

梦想的现实
2026-09-02 11:36:13
《醒来》终极伏笔 金宝死前交给陈开来的遗物 彻底坐实杜黄桥 取死道

《醒来》终极伏笔 金宝死前交给陈开来的遗物 彻底坐实杜黄桥 取死道

喜欢历史的阿繁
2026-09-02 10:40:33
网红花十三万做牙贴面,口臭难闻自嘲像马桶,奉劝粉丝千万别做

网红花十三万做牙贴面,口臭难闻自嘲像马桶,奉劝粉丝千万别做

娱圈办事处
2026-09-01 15:09:47
燧原科技:科创板IPO网上发行最终中签率0.02455315%

燧原科技:科创板IPO网上发行最终中签率0.02455315%

IT之家
2026-09-02 19:31:05
婚宴一顿花掉88万,男方家拒绝买单走后,女方家人都沉默了

婚宴一顿花掉88万,男方家拒绝买单走后,女方家人都沉默了

兰姐说故事
2025-08-24 17:05:04
疯了吗?5个月大跌60%,中报业绩大亏,却被5家外资集体重仓持有

疯了吗?5个月大跌60%,中报业绩大亏,却被5家外资集体重仓持有

财经智多星
2026-09-02 09:22:58
2026-09-02 21:51:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16091文章数 67023关注度
往期回顾 全部

教育要闻

全国多地叫停分班考,你怎么看?

头条要闻

7人豪宅楼盘看房被困电梯呼叫铃还无反应 售楼部回应

头条要闻

7人豪宅楼盘看房被困电梯呼叫铃还无反应 售楼部回应

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

北京首钢园数采中心停运,“百万小时”产能目标的账还算得过来吗?

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

汽车要闻

全新理想MEGA售50.98万 这一次“移动的家”更舒适更灵活

态度原创

健康
旅游
数码
公开课
军事航空

越吃越爆痘?医生讲清7大真相

旅游要闻

「侠客岛」7500公里外遥远的相似

数码要闻

宏碁推出SFF RTX Spark迷你主机,最高128GB内存

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普威胁伊朗终极打击蓄势待发

无障碍浏览 进入关怀版