网易首页 > 网易号 > 正文 申请入驻

端侧首个!科大讯飞开源百万Token上下文大模型,重新定义本地AI能力上限

0
分享至

大模型正在加速进入手机、PC、汽车座舱、智能家居和机器人等终端设备。大家对端侧模型的期待,早已不是“断网能聊几句”,而是:一份几十页的产品手册能不能一次读完并提炼重点?一张表格、一项指令、一个多步骤任务,能不能直接完成?

9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。星火X2.5给出了文章开头的答案:作为端侧模型中首个原生支持最长100万Token上下文的模型,星火X2.5-4B和1.7B把百万Token级信息处理能力带到本地设备。两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。综合实测,相关能力领先业界同尺寸一流开源模型。


从“能够在设备上对话”,到“能够在本地完成任务”,星火X2.5端侧模型正在拓展中小底座的能力和应用边界。

业界首个:支持百万Token级上下文,读懂完整信息

真实工作场景里,用户交给模型的往往不是一段提问,而可能是一份售后手册、一套会议材料、一批项目文档,甚至是完整代码仓库。

过去,端侧模型处理长内容,常常要把文档切成几段分别问,容易忘记前情、遗漏信息、已读乱回。星火X2.5-4B和1.7B原生支持最长100万Token上下文窗口,使用覆盖长篇文档、技术资料等场景的千亿Token级高质量数据开展训练,可以在一次任务中接收和理解更大规模的信息。

以产品售后为例,用户可将完整的产品售后手册导入星火X2.5-4B,先梳理不同场景下的售后规则并标注对应章节;当询问“购买10天后设备故障,且使用过第三方耗材,是否符合换货要求”时,模型能够关联退换货、故障处理和例外条件等跨章节规定,给出综合判断。面对偏远地区、设备存有家庭地图等新增条件,模型还可保持前文情境,结合物流、数据清除、费用承担和处理时限等规则,提供后续建议。

百万级上下文并非单纯为了“塞下更多字”。它真正解决的是:让模型基于完整信息,在连续交互中持续理解和处理复杂问题。

真正“干活”:不只回答问题,还是工作与生活助手

长上下文解决的是“信息能不能看全”,智能体和工具调用能力解决的,则是“看完之后能不能动手”。

依托科大讯飞在AI技术研发、智能办公和智能硬件等领域的积累,星火X2.5端侧模型可面向个人办公、代码开发、智能硬件和机器人等场景,提供本地化智能能力。

在个人办公场景中,星火X2.5端侧模型可覆盖数据处理、文档生成和文档翻译等环节。以Loomy上的办公案例为例,用户上传销售明细表并提出销售分析和中英文部门业绩报告的交付需求后,星火X2.5-4B首先编写脚本完成数据汇总、关键指标提取和趋势分析,随后生成约3000字的中文部门业绩报告,并沿用原有结构和格式生成英文版报告,最后完成内容、结构和排版校验,实现从原始数据分析到双语报告交付的完整流程。

在代码开发场景中,星火X2.5-4B在算法实现、代码补全与生成等任务中,可对标参数规模大2至3倍的云端模型。代码编写、脚本生成和调试辅助工作,可以不出本地直接完成。依托端侧部署,模型还具备低延迟、离线使用和代码资产本地化管理等优势。开发者可通过DeepSeek Harness、OpenCode、Codex、Pi等开源Harness,将模型接入本地开发和自动化脚本流程。

在智能硬件场景中,端侧模型比拼的不只是“听没听懂”,更是“能不能又快又准地执行”。以智能家居为例,在Domux智能家居测试集上,星火X2.5-1.7B控制指令端到端执行正确率达到90.3%,平均响应时间仅为0.85秒,兼顾准确度与速度。

机器人同样是端侧智能的重要落点。星火X2.5-4B和1.7B同样适用于机器人等需要持续感知和连续执行的场景。模型可以部署在机器人本体或边缘设备中,支持操作控制、目标追踪、导航决策等任务,减少对云端连接和固定预设程序的依赖。

安全可控:扎根全国产算力,构建开放端侧生态

大模型进入更多行业和智能终端,既需要模型能力持续提升,也需要自主可控的算力支撑与灵活易用的部署条件。

星火X2.5-4B和1.7B基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习训练,持续提升模型在推理、代码、智能体和指令遵循等任务中的表现。全国产算力训练,为端侧智能构建了自主可控、可持续演进的技术底座。

在部署层面,两款模型支持英伟达、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。多硬件、多框架适配,进一步降低了开发者和行业伙伴在不同环境中部署、微调和应用端侧模型的门槛。

即日起,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档,对应模型API也已上线到讯飞星辰MaaS平台,限时免费。

当百万级上下文进入端侧,模型开始能够在更贴近用户的设备上,看得更全、记得更久、做得更多。

值得一提的是,9月7日,科大讯飞还将正式发布全新一代旗舰通用大模型星火X2.5,进一步升级代码和智能体等核心能力,敬请期待。

上游新闻 张皓

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
原来他俩早就离了,如今一个在云南当院长,一个潇洒分走2500万

原来他俩早就离了,如今一个在云南当院长,一个潇洒分走2500万

离离言几许
2026-09-02 01:50:44
日本的反击来了:中国敢不买日本水产?马上关了在中国的事务所

日本的反击来了:中国敢不买日本水产?马上关了在中国的事务所

墨兰史书
2026-09-01 16:35:07
原来普京一直被手下“蒙在鼓里”!中情局局长拉特克利夫想告诉普京,他们长期质疑普京被手下蒙蔽而看不清俄乌战争局势

原来普京一直被手下“蒙在鼓里”!中情局局长拉特克利夫想告诉普京,他们长期质疑普京被手下蒙蔽而看不清俄乌战争局势

扶苏聊历史
2026-09-02 17:28:54
美军暴击伊朗,6个半小时压着打,已造成大量伤亡,伊朗激射10枚重型导弹反击!

美军暴击伊朗,6个半小时压着打,已造成大量伤亡,伊朗激射10枚重型导弹反击!

扶苏聊历史
2026-09-02 16:59:45
秘鲁宣布与伊朗断绝外交关系

秘鲁宣布与伊朗断绝外交关系

澎湃新闻
2026-09-02 08:16:08
癌的源头已发现?咸菜没上榜,第1名大家或天天都在吃

癌的源头已发现?咸菜没上榜,第1名大家或天天都在吃

路医生健康科普
2026-09-02 17:00:07
羽坛名将李宗伟:36岁患癌喉咙全烂,花近1000万续命,如今怎样了

羽坛名将李宗伟:36岁患癌喉咙全烂,花近1000万续命,如今怎样了

史行途
2026-09-02 09:35:51
华为不可能错的

华为不可能错的

正言智驾
2026-09-01 15:16:17
曾经身价上亿如今负债3600万,38岁浙江老板开700万劳斯莱斯,选择跑路换环境重新出发

曾经身价上亿如今负债3600万,38岁浙江老板开700万劳斯莱斯,选择跑路换环境重新出发

捣蛋窝
2026-09-02 11:46:14
18点开打!U23国足亚运首战,输球基本难出线

18点开打!U23国足亚运首战,输球基本难出线

SilverLife银生活家
2026-09-02 17:16:11
钱再多又如何?52岁刘强东手握千亿身家,儿子成了一生的遗憾

钱再多又如何?52岁刘强东手握千亿身家,儿子成了一生的遗憾

莫地方
2026-08-23 19:19:07
特鲁姆普称吴宜泽和罗伯逊不配竞争世界第一!墨菲吐槽中国赛安排不合理

特鲁姆普称吴宜泽和罗伯逊不配竞争世界第一!墨菲吐槽中国赛安排不合理

世界体坛观察家
2026-09-02 14:22:30
太难选择了!成都27岁女生相亲陷入两难:要生理性喜欢,还是要2000万家底

太难选择了!成都27岁女生相亲陷入两难:要生理性喜欢,还是要2000万家底

火山詩话
2026-09-01 07:05:33
中纪委再次重拳出击!这4个领域将被严查,这4种行为将被严肃处理

中纪委再次重拳出击!这4个领域将被严查,这4种行为将被严肃处理

细说职场
2026-09-02 19:22:46
泥石流冲不垮的……(记者手记)

泥石流冲不垮的……(记者手记)

人民网
2026-09-02 09:10:51
鲁迅的文章,当年是怎么过审的?

鲁迅的文章,当年是怎么过审的?

刘晓原
2026-08-31 21:46:15
第五代三菱帕杰罗全球首发,经典硬派越野正式回归

第五代三菱帕杰罗全球首发,经典硬派越野正式回归

陋观
2026-09-02 19:25:06
景甜背后纹身图片被疯传,张继科直播一番话,被指保护了景甜!

景甜背后纹身图片被疯传,张继科直播一番话,被指保护了景甜!

背包旅行
2026-08-31 10:01:31
“他们会把我绞死”——普京为何不愿结束战争

“他们会把我绞死”——普京为何不愿结束战争

走进乌克兰2022
2026-09-01 08:39:24
2026教师节新规正式落地!教育部明确发文,全国所有学校统一执行

2026教师节新规正式落地!教育部明确发文,全国所有学校统一执行

世界有奇事
2026-08-30 08:34:02
2026-09-02 20:35:00
上游新闻 incentive-icons
上游新闻
重庆“门户级”新闻客户端
264631文章数 585565关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

被星宇股份裁掉的107名应届生 损失远远不止一份工作

头条要闻

被星宇股份裁掉的107名应届生 损失远远不止一份工作

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

北京首钢园数采中心停运,“百万小时”产能目标的账还算得过来吗?

汽车要闻

10万级的满配B级车 试驾2027款比亚迪海豹06

态度原创

艺术
时尚
旅游
房产
健康

艺术要闻

明代隐藏的“草书奇才”!水平不输张旭、怀素,当今知道他的人不足1%

夏天别总穿黑色裤子,试试这几款高腰裙,显瘦优雅又提气质

旅游要闻

京郊宠物友好地图上线,210处打卡地+10条主题线路携宠出游

房产要闻

新四代住宅 新样板间开放丨以艺术之名 赴一场迭代之约

越吃越爆痘?医生讲清7大真相

无障碍浏览 进入关怀版