网易首页 > 网易号 > 正文 申请入驻

端侧 AI 开源浪潮来袭,大模型跑向手机终端,产业红利正在重新分配

0
分享至

摘要:晨观时报最新消息,2026 年 8 月,国内头部大模型接连开源轻量化参数版本,可直接在消费级手机、PC 显卡本地运行,端侧 AI 正式从营销概念转向规模化落地。云端大模型烧钱竞争告一段落,端侧算力、硬件适配、行业应用成为新的主战场,产业链上下游企业迎来洗牌窗口。



2026 年 8 月中旬,国内大模型行业迎来新一轮开源潮,阿里千问 Qwen3.8‑27B 正式对外开源,这款 270 亿参数的大模型,不需要依赖云端服务器,就能够在高端智能手机、普通消费级显卡完成推理运行,标志着国产大模型的竞争重心,正在从云端千亿参数 “军备竞赛” 全面转向端侧落地。过去两年,大模型行业热衷于比拼参数量、跑分榜单,大量资金投入云端算力建设,但高昂的推理成本、网络延迟、用户数据隐私风险,始终制约生成式 AI 大规模走进普通人的日常。而端侧大模型的成熟,正在改写整个 AI 产业的商业逻辑。

所谓端侧 AI,就是把大模型能力部署在手机、电脑、智能汽车、机器人等本地硬件设备,用户不用持续上传数据到云端服务器,在设备本地就完成问答、图片生成、文档处理、多模态理解等全部操作。对比云端模式,端侧 AI 具备三大核心优势:第一是低延迟,不用等待网络传输,交互响应速度大幅提升;第二是隐私安全,用户聊天记录、照片、本地文档全部留在本机,不会上传外部服务器;第三是降低使用成本,减少云端算力消耗,企业可以大幅缩减云服务开支,普通用户甚至可以离线使用 AI 功能。



不过端侧大模型的落地,并不是简单把云端模型缩小复制到硬件。大模型想要跑通手机终端,需要完成模型剪枝、量化压缩、算子适配,还要和芯片、操作系统深度协同。硬件层面,手机 SoC、NPU 神经网络单元性能成为关键门槛;软件层面,操作系统需要重构调度框架,保障大模型运行同时不耗尽设备电量、不挤占内存。过去很多厂商推出的端侧 AI 只是小模型,只能完成简单翻译、摘要,真正具备复杂推理能力的百亿级模型本地运行,在 2026 年才迎来技术拐点。

开源正在加速这一进程。过去闭源大模型时代,中小企业想要接入 AI 能力,只能采购厂商 API 接口,按 token 调用付费,中小商家、硬件厂商没有二次改造权限。随着多款高性能端侧大模型开源,硬件厂商、行业服务商可以基于开源底座二次微调,针对手机、车载、工业设备做定制化开发,不用从零训练大模型,大幅降低 AI 入局门槛。手机品牌已经率先行动,下半年多款旗舰机型,都将本地运行大模型作为全系标配,智能体、本地 AI 助手、离线文档处理将成为新机核心卖点。



机遇背后,行业同样存在现实挑战。首先是性能与效果的平衡,轻量化压缩之后,端侧模型综合能力相比云端版本依然存在差距,如何在有限硬件资源下兼顾推理效果,是所有厂商需要持续攻克的难题。其次是碎片化问题,市面上手机芯片型号繁多,不同 NPU 架构差异巨大,一套模型很难适配全部设备,适配调试成本居高不下。商业变现模式依旧待验证,开源免费底座摆在面前,企业怎么找到可持续盈利路径,摆脱单纯靠硬件加价的初级模式,是摆在行业面前的现实考题。

资本市场已经敏锐捕捉赛道变化。上半年,端侧 AI 相关芯片、AI 终端、模型工具链企业融资事件明显增多,市场资金逐步从通用大模型训练,流向模型压缩工具、端侧芯片、行业落地解决方案。行业共识已经形成:通用大模型讲故事的时代基本结束,能不能把 AI 真正部署到终端硬件,创造看得见的实际价值,才是衡量企业竞争力的核心标尺。

放眼未来,端侧和云端不会是互相替代,而是 “云‑端协同” 的格局。复杂重度任务交给云端大模型处理,日常高频交互、隐私敏感的计算留在本地终端。手机、汽车、机器人、工业设备,海量终端设备组成分布式 AI 网络,这将会是未来数字世界的基础形态。对于国内科技企业而言,端侧大模型开源浪潮,既是技术机遇,也是国产软硬件生态协同突围的关键窗口,谁能够打通模型、芯片、操作系统全链条,谁就有望抢占下一轮智能终端时代的话语权。

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
万万没想到,那曲7级地震震中区域人烟稀少

万万没想到,那曲7级地震震中区域人烟稀少

桃叶渡春
2026-10-23 00:45:05
遥遥领先?搜狐汽车禁言15天

遥遥领先?搜狐汽车禁言15天

吃瓜体
2026-10-22 19:40:37
借70万去沙特打工,22岁清洁工被王室下令斩首,家人看新闻才知道

借70万去沙特打工,22岁清洁工被王室下令斩首,家人看新闻才知道

小吐说故事
2026-10-21 19:38:47
西藏那曲市巴青县发生7.0级地震,震源深度10千米

西藏那曲市巴青县发生7.0级地震,震源深度10千米

界面新闻
2026-10-22 22:46:34
卫冕失败:中国2-3不敌日本,无缘乒乓球亚锦赛女团冠军

卫冕失败:中国2-3不敌日本,无缘乒乓球亚锦赛女团冠军

侧身凌空斩
2026-10-22 22:06:07
从奥斯陆到圣彼得堡,美俄乌欧的心理战

从奥斯陆到圣彼得堡,美俄乌欧的心理战

上观新闻
2026-10-22 14:25:40
大火逼近中国,日本道歉岂能只道一半

大火逼近中国,日本道歉岂能只道一半

中国能源网
2026-10-22 17:59:09
KTV查严了,卖淫女盯上郊区充电站:车主充电二三十分钟,人走不了,车门一关就“办事”

KTV查严了,卖淫女盯上郊区充电站:车主充电二三十分钟,人走不了,车门一关就“办事”

一丝不苟的法律人
2026-10-22 09:36:04
7-0提前出线!中国女足杀疯了,5人同时破门,U17世界杯16强定5席

7-0提前出线!中国女足杀疯了,5人同时破门,U17世界杯16强定5席

侃球熊弟
2026-10-23 01:03:07
关于社保这事,有网友看出了这样一个动向

关于社保这事,有网友看出了这样一个动向

清晖有墨
2026-10-22 12:40:30
难怪都想当公务员,大V:山东三线城市公务员一辈子能拿到1000万收入

难怪都想当公务员,大V:山东三线城市公务员一辈子能拿到1000万收入

老郭在学习
2026-10-22 13:33:24
羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

聊斋新志
2026-10-22 19:28:15
俄乌冲突,事情正在起变化 | 京酿馆

俄乌冲突,事情正在起变化 | 京酿馆

新京报
2026-10-22 13:35:23
59投18中,失误18次,狂输58分!顾全:这是耻辱,教练组承担责任

59投18中,失误18次,狂输58分!顾全:这是耻辱,教练组承担责任

萌兰聊个球
2026-10-22 22:12:33
想不到,芭莎盛典这一夜,40岁张小斐会因救场举动实现口碑暴涨

想不到,芭莎盛典这一夜,40岁张小斐会因救场举动实现口碑暴涨

胡鋇就爱无拘无束
2026-10-22 15:29:15
公交改革来了!财政不再全部兜底,以后乘车、老年优惠会变吗?

公交改革来了!财政不再全部兜底,以后乘车、老年优惠会变吗?

混沌录
2026-10-22 22:47:13
恩断义绝!朝鲜发生大变化,金与正做出一个前所未有表态

恩断义绝!朝鲜发生大变化,金与正做出一个前所未有表态

张嘴说财经
2026-10-21 19:36:57
曝曼联考虑换帅!已物色替代者 3大待业名帅竞争 高层欲挖角英超2队

曝曼联考虑换帅!已物色替代者 3大待业名帅竞争 高层欲挖角英超2队

我爱英超
2026-10-22 21:35:58
网友称自己的问界行驶中也起火自燃,起火原因还匪夷所思

网友称自己的问界行驶中也起火自燃,起火原因还匪夷所思

映射生活的身影
2026-10-22 18:02:00
开始动真格!追溯30年倒查来了,这4类人要当心!

开始动真格!追溯30年倒查来了,这4类人要当心!

职场资深秘书
2026-10-22 11:18:43
2026-10-23 06:12:49
创作者_dR4i
创作者_dR4i
观察者报 资讯观察
124文章数 1关注度
往期回顾 全部

科技要闻

腾讯云谷歌紧急行动!互联网安全出大事

头条要闻

西藏那曲7.0级地震已造成16人遇难32人受伤

头条要闻

西藏那曲7.0级地震已造成16人遇难32人受伤

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

宁德,跌成了一只红利股?

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

家居
艺术
亲子
健康
教育

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

故宫藏一幅特殊古画:饱经起落的帝王画钟馗,不是吓人,是送整年好运

亲子要闻

生儿子的几大优势,女孩家长根本想象不到

痘痘能根治吗?皮肤科医生说实话

教育要闻

研三秋招找工作才发现:有没有论文不重要,重要的是英语六级不能少,好多国央企都卡六级

无障碍浏览 进入关怀版