网易首页 > 网易号 > 正文 申请入驻

端侧首个!科大讯飞开源百万Token上下文大模型,重新定义本地AI能力上限

0
分享至

大模型正在加速进入手机、PC、汽车座舱、智能家居和机器人等终端设备。大家对端侧模型的期待,早已不是“断网能聊几句”,而是:一份几十页的产品手册能不能一次读完并提炼重点?一张表格、一项指令、一个多步骤任务,能不能直接完成?

9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。星火X2.5给出了文章开头的答案:作为端侧模型中首个原生支持最长100万Token上下文的模型,星火X2.5-4B和1.7B把百万Token级信息处理能力带到本地设备。两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。综合实测,相关能力领先业界同尺寸一流开源模型。


从“能够在设备上对话”,到“能够在本地完成任务”,星火X2.5端侧模型正在拓展中小底座的能力和应用边界。

业界首个:支持百万Token级上下文,读懂完整信息

真实工作场景里,用户交给模型的往往不是一段提问,而可能是一份售后手册、一套会议材料、一批项目文档,甚至是完整代码仓库。

过去,端侧模型处理长内容,常常要把文档切成几段分别问,容易忘记前情、遗漏信息、已读乱回。星火X2.5-4B和1.7B原生支持最长100万Token上下文窗口,使用覆盖长篇文档、技术资料等场景的千亿Token级高质量数据开展训练,可以在一次任务中接收和理解更大规模的信息。

以产品售后为例,用户可将完整的产品售后手册导入星火X2.5-4B,先梳理不同场景下的售后规则并标注对应章节;当询问“购买10天后设备故障,且使用过第三方耗材,是否符合换货要求”时,模型能够关联退换货、故障处理和例外条件等跨章节规定,给出综合判断。面对偏远地区、设备存有家庭地图等新增条件,模型还可保持前文情境,结合物流、数据清除、费用承担和处理时限等规则,提供后续建议。

百万级上下文并非单纯为了“塞下更多字”。它真正解决的是:让模型基于完整信息,在连续交互中持续理解和处理复杂问题。

真正“干活”:不只回答问题,还是工作与生活助手

长上下文解决的是“信息能不能看全”,智能体和工具调用能力解决的,则是“看完之后能不能动手”。

依托科大讯飞在AI技术研发、智能办公和智能硬件等领域的积累,星火X2.5端侧模型可面向个人办公、代码开发、智能硬件和机器人等场景,提供本地化智能能力。

在个人办公场景中,星火X2.5端侧模型可覆盖数据处理、文档生成和文档翻译等环节。以Loomy上的办公案例为例,用户上传销售明细表并提出销售分析和中英文部门业绩报告的交付需求后,星火X2.5-4B首先编写脚本完成数据汇总、关键指标提取和趋势分析,随后生成约3000字的中文部门业绩报告,并沿用原有结构和格式生成英文版报告,最后完成内容、结构和排版校验,实现从原始数据分析到双语报告交付的完整流程。

在代码开发场景中,星火X2.5-4B在算法实现、代码补全与生成等任务中,可对标参数规模大2至3倍的云端模型。代码编写、脚本生成和调试辅助工作,可以不出本地直接完成。依托端侧部署,模型还具备低延迟、离线使用和代码资产本地化管理等优势。开发者可通过DeepSeek Harness、OpenCode、Codex、Pi等开源Harness,将模型接入本地开发和自动化脚本流程。

在智能硬件场景中,端侧模型比拼的不只是“听没听懂”,更是“能不能又快又准地执行”。以智能家居为例,在Domux智能家居测试集上,星火X2.5-1.7B控制指令端到端执行正确率达到90.3%,平均响应时间仅为0.85秒,兼顾准确度与速度。

机器人同样是端侧智能的重要落点。星火X2.5-4B和1.7B同样适用于机器人等需要持续感知和连续执行的场景。模型可以部署在机器人本体或边缘设备中,支持操作控制、目标追踪、导航决策等任务,减少对云端连接和固定预设程序的依赖。

安全可控:扎根全国产算力,构建开放端侧生态

大模型进入更多行业和智能终端,既需要模型能力持续提升,也需要自主可控的算力支撑与灵活易用的部署条件。

星火X2.5-4B和1.7B基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习训练,持续提升模型在推理、代码、智能体和指令遵循等任务中的表现。全国产算力训练,为端侧智能构建了自主可控、可持续演进的技术底座。

在部署层面,两款模型支持英伟达、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。多硬件、多框架适配,进一步降低了开发者和行业伙伴在不同环境中部署、微调和应用端侧模型的门槛。

即日起,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档,对应模型API也已上线到讯飞星辰MaaS平台,限时免费。

当百万级上下文进入端侧,模型开始能够在更贴近用户的设备上,看得更全、记得更久、做得更多。

值得一提的是,9月7日,科大讯飞还将正式发布全新一代旗舰通用大模型星火X2.5,进一步升级代码和智能体等核心能力,敬请期待。

上游新闻 张皓

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
​热苏斯:为加盟巴萨大幅降薪,每赛季少赚300万欧元

​热苏斯:为加盟巴萨大幅降薪,每赛季少赚300万欧元

足球推文C
2026-09-02 17:36:55
吉格斯:11年巴萨在我心中最强,如果无梅西我们当年有能力赢

吉格斯:11年巴萨在我心中最强,如果无梅西我们当年有能力赢

懂球帝
2026-09-02 17:04:32
新款 iPad mini 史诗级更新!即将发布

新款 iPad mini 史诗级更新!即将发布

花果科技
2026-08-31 22:21:22
美国副总统万斯演讲严重口误:“我们马上要庆祝9·11事件25周年了”,随后立即改口

美国副总统万斯演讲严重口误:“我们马上要庆祝9·11事件25周年了”,随后立即改口

极目新闻
2026-09-01 18:00:06
硬仗拉满!严子怡总决赛遇死亡阵容,夺冠真的不稳了

硬仗拉满!严子怡总决赛遇死亡阵容,夺冠真的不稳了

涵有话说
2026-09-02 10:01:34
世界上66%国家都选左舵,中国为何放弃右舵,竟和美国援助有关?

世界上66%国家都选左舵,中国为何放弃右舵,竟和美国援助有关?

铭记历史呀
2026-09-01 02:02:30
官司还没宣判,舆论先炸锅,景甜这件事被胡锡进一语道破

官司还没宣判,舆论先炸锅,景甜这件事被胡锡进一语道破

小徐讲八卦
2026-09-02 15:06:59
快讯!知名演员刘晓庆传来新消息!

快讯!知名演员刘晓庆传来新消息!

故事终将光明磊落
2026-09-02 16:39:21
尼克斯名宿:杰伦·布伦森整体表现已超越了NBA传奇德里克·罗斯

尼克斯名宿:杰伦·布伦森整体表现已超越了NBA传奇德里克·罗斯

好火子
2026-09-01 22:08:52
刘亦菲妈妈近照曝光!67岁仍优雅,戴百万手镯,无惧和陈金飞绯闻

刘亦菲妈妈近照曝光!67岁仍优雅,戴百万手镯,无惧和陈金飞绯闻

叶公子
2026-09-01 13:02:38
中国正式进入“超级内卷”时代!只有一种人能赚钱(深度)

中国正式进入“超级内卷”时代!只有一种人能赚钱(深度)

新浪财经
2026-06-23 08:51:12
6名“正部级”干部任免发布

6名“正部级”干部任免发布

涵豆说娱
2026-09-01 11:05:49
没料到!勒庞决选通杀,亲华派跌剩2%支持率,法国恐怕要大变天

没料到!勒庞决选通杀,亲华派跌剩2%支持率,法国恐怕要大变天

共工之锚
2026-09-02 00:23:56
郑丽文回应“请辞党主席”,什么情况?

郑丽文回应“请辞党主席”,什么情况?

新民周刊
2026-09-01 09:11:33
《街霸》电影春丽演员苦练大腿!每天狂吃12个鸡蛋

《街霸》电影春丽演员苦练大腿!每天狂吃12个鸡蛋

3DM游戏
2026-08-29 11:32:21
斯诺克最新战报!姚朋成1-4被逆转,龙泽煌夺赛点,雷佩凡范争一暂平!

斯诺克最新战报!姚朋成1-4被逆转,龙泽煌夺赛点,雷佩凡范争一暂平!

刘姚尧的文字城堡
2026-09-02 18:40:39
许家印刚判完,国家就动手了!现房是好事,但代价可能比你想的要大

许家印刚判完,国家就动手了!现房是好事,但代价可能比你想的要大

小莜读史
2026-09-02 20:32:03
濮存昕没想到,自己竟因李维康葬礼上一个特殊举动,实现口碑翻盘

濮存昕没想到,自己竟因李维康葬礼上一个特殊举动,实现口碑翻盘

娱圈办事处
2026-09-02 18:59:56
星宇不怕网友抵制,他们的客户还有:奇瑞大众理想丰田赛利斯蔚来小鹏等

星宇不怕网友抵制,他们的客户还有:奇瑞大众理想丰田赛利斯蔚来小鹏等

曹莽看世界
2026-09-02 18:03:43
高铁女孩熟睡男生盯死手机不敢转头,两百万外网围观无声的人机对峙,藏着成年人不敢破冰的社交尴尬防线

高铁女孩熟睡男生盯死手机不敢转头,两百万外网围观无声的人机对峙,藏着成年人不敢破冰的社交尴尬防线

明话直说
2026-08-25 18:07:55
2026-09-02 21:28:50
上游新闻 incentive-icons
上游新闻
重庆“门户级”新闻客户端
264631文章数 585565关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

被星宇股份裁掉的107名应届生 损失远远不止一份工作

头条要闻

被星宇股份裁掉的107名应届生 损失远远不止一份工作

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

北京首钢园数采中心停运,“百万小时”产能目标的账还算得过来吗?

汽车要闻

10万级的满配B级车 试驾2027款比亚迪海豹06

态度原创

艺术
数码
本地
公开课
军事航空

艺术要闻

明代隐藏的“草书奇才”!水平不输张旭、怀素,当今知道他的人不足1%

数码要闻

宏碁推出SFF RTX Spark迷你主机,最高128GB内存

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普威胁伊朗终极打击蓄势待发

无障碍浏览 进入关怀版