网易有道给全球开发者、企业伙伴以及开源社区带来了一个好消息!
我们决定将“子曰”大模型4.0的核心双引擎——“多模态模型”与“语音合成(TTS)模型”,正式面向全球全量开源。
大家可以免费下载、部署,并基于此进行二次开发。
这标志着,“子曰4”正式迈入了全模态交互的新阶段。不仅全面支持文本、图片、音频的融合交互;同时,翻译模型也迎来了深度的技术重构,翻译质量与效率实现双重提升。
![]()
视觉数理斩获 SOTA
纯文本数理难题性能行业领先
首先来看看这次开源的“子曰4”多模态模型(27B参数规模)
面向教育场景,支持视觉输入的数理能力,它做到了行业顶尖水平(SOTA)
- 在同等参数的规模模型中,处理带图表的高难度视觉数理问题,表现惊艳。
- 纯文本的中文数理难题,准确率81.4%,属于行业领先水平。
![]()
“子曰4”(Confucius4)在多个视觉数理基准上达到同规模模型最佳水平
图片来源:https://huggingface.co/netease-youdao/Confucius4
但更关键的是——极致性价比
新模型采用了精细化思维链重构方案。通过汇聚大规模优质、精简的推理样本进行深度优化,把思维链输出长度压缩了43.2%
这意味着:回答同样的问题,它输出的 Token 更少、推理路径更短、出答案更快
对于做实际业务的开发者和企业来说,直接效果就是:推理成本明显下降
![]()
“子曰4”(Confucius4)在多个视觉数理基准上大幅降低输出token数
此外,团队还针对国内学生真实的作业、考试和提问场景进行了深度优化,让它能够真正解决真实学习中遇到的复杂痛点。
TTS 语音合成:
14种语言,3秒克隆,精准情感迁移
这是一个实用的开源 TTS 引擎。
- 3秒:上传任意音频素材,系统即可在3秒内完成零样本原声复制。
- 97%:在克隆任务中准确度超过97%,克隆音色与原声的相似度达85% 以上。
- 14种语言:全面支持中、英、日、韩、德、法、西、印尼、意、泰、葡、俄、马来、越南语等14种语言。
更惊艳的是跨语种音色情感迁移克隆能力:
只要上传一段中文音频,就能克隆说话人的音色,并流利说出英语、韩语、越南语……不带“中式口音”。
而且情感也能精准迁移克隆——只要生气地说一句话,合成出来的外语也是生气的语气。
我们直接看官方做的示例
- 普通话参考音频:宫规森严,祺贵人不得信口雌黄!
- 英语合成音频:The palace rules are strict; Consort Qi is not allowed to speak carelessly!
- 越南语合成音频:Cung đình nghiêm ngặt, cấm đồn đại phiến, quý phi Tề!
在合成结果中,保留了普通话参考音频的音色和情感。
无论日常对话、新闻播报、企业宣传还是复杂的情感表达,它在真实的多语言场景中都展现出了非常好的稳健性,综合能力处于该领域的第一梯队。
翻译模型:
技术重构,推理速度提升80%
作为有道最为深厚的技术资产,翻译模型在本次升级中也迎来了非常重要的技术迭代,全面应对高频、高并发的产业级应用:
- 数据层面:源头的高品质保证
- 收集并清洗了上亿级别的多语言数据,并专门聘请具有专业八级(TEM-8)认证的专业人员进行多维度人工评估——从源头保证语料的纯正与高品质。
- 算法层面:创新的“多专家 OPD ”模式模型
- 采用了一种更聪明的“软方式”博采众长;同时,通过强化学习引入格式奖励和语言检测机制,有效解决了机器翻译两大痛点——“脱靶”(语种出错)和“语种混出”(中外夹杂)。
- 效率层面:整体推理速度飙升80%
- 升级后的翻译模型配备了高效的加速机制,使得整体推理速度直接提升了80%,让企业在高并发场景下更从容。
最后配合大模型自动评测 + 人工随机抽检,新一代翻译模型在文本、图片、文档翻译等多场景下,都做到了又快又准。
最后
网易有道“子曰4”的核心模型,就在下面两个地址。
我们希望能降低大家在多模态和语音合成上的开发门槛。
期待大家探索出更多有趣、有用的新玩法,欢迎随时留言。
多模态模型(Hugging Face)
https://huggingface.co/netease-youdao/Confucius4
TTS 模型(GitHub)
https://github.com/netease-youdao/Confucius4-TTS
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.