科大讯飞旗下词元星火今天推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。最引人注目的是那个数字——原生支持最长100万Token上下文窗口,官方称这是目前端侧模型中唯一支持该量级上下文的产品。
4B和1.7B的参数规模,放在大模型圈子里不算大,但配上百万Token的上下文能力,定位就很清楚:不是跑云端的,是塞进手机、机器人、边缘设备里干活的。
![]()
100万Token在端侧意味着什么
两款模型采用混合注意力架构,围绕智能体、代码、数学和指令遵循四项核心能力进行优化。预训练数据量约20万亿Token,全流程跑在全国产算力平台上。
官方举了个售后场景的例子:把完整售后手册导入模型,用户问“购买10天后设备故障且使用过第三方耗材”这种跨章节的复杂问题,模型能关联不同章节的规定给出综合判断。更关键的是,后续新增条件时,它还能保持前文情境继续给建议——这正是长上下文窗口在真实业务里的价值,不是刷分用的。
1.7B小模型跑出90.3%控制正确率
个人办公场景里,星火X2.5-4B可以从原始数据分析一路做到双语报告交付。更小的1.7B版本则在智能家居测试集上露了一手:Domux测试集上,控制指令端到端执行正确率90.3%,平均响应时间0.85秒。
这个成绩单背后是明确的落地意图。官方列出的适用场景包括机器人操作控制、目标追踪、导航决策,部署位置可以是机器人本体,也可以是边缘设备。换句话说,1.7B不是4B的缩水版,是给更受限的硬件准备的另一个答案。
硬件和框架兼容性拉满
部署层面,两款模型支持英伟达、华为、海光及后摩等硬件平台,推理框架兼容vLLM、SGLang、llama.cpp,还能通过Ollama、LM Studio这类工具快速跑起来。模型权重已在Hugging Face和GitHub开放,API同步上线讯飞星辰MaaS平台。
这套组合拳的意图不难读:降低试错成本,让开发者先把模型跑起来再说。端侧模型的竞争,拼的不只是参数和榜单,更是能不能在真实设备上顺畅落地。
9月7日还有更大的
词元星火同时预告,9月7日将正式发布星火X2.5-293B通用大模型,升级方向是代码和智能体能力。4B和1.7B是开胃菜,293B才是主菜。端侧先开源抢开发者心智,云端大模型随后跟上,这条发布节奏本身也值得琢磨。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.