网易首页 > 网易号 > 正文 申请入驻

端侧 AI 开源浪潮来袭,大模型跑向手机终端,产业红利正在重新分配

0
分享至

摘要:晨观时报最新消息,2026 年 8 月,国内头部大模型接连开源轻量化参数版本,可直接在消费级手机、PC 显卡本地运行,端侧 AI 正式从营销概念转向规模化落地。云端大模型烧钱竞争告一段落,端侧算力、硬件适配、行业应用成为新的主战场,产业链上下游企业迎来洗牌窗口。



2026 年 8 月中旬,国内大模型行业迎来新一轮开源潮,阿里千问 Qwen3.8‑27B 正式对外开源,这款 270 亿参数的大模型,不需要依赖云端服务器,就能够在高端智能手机、普通消费级显卡完成推理运行,标志着国产大模型的竞争重心,正在从云端千亿参数 “军备竞赛” 全面转向端侧落地。过去两年,大模型行业热衷于比拼参数量、跑分榜单,大量资金投入云端算力建设,但高昂的推理成本、网络延迟、用户数据隐私风险,始终制约生成式 AI 大规模走进普通人的日常。而端侧大模型的成熟,正在改写整个 AI 产业的商业逻辑。

所谓端侧 AI,就是把大模型能力部署在手机、电脑、智能汽车、机器人等本地硬件设备,用户不用持续上传数据到云端服务器,在设备本地就完成问答、图片生成、文档处理、多模态理解等全部操作。对比云端模式,端侧 AI 具备三大核心优势:第一是低延迟,不用等待网络传输,交互响应速度大幅提升;第二是隐私安全,用户聊天记录、照片、本地文档全部留在本机,不会上传外部服务器;第三是降低使用成本,减少云端算力消耗,企业可以大幅缩减云服务开支,普通用户甚至可以离线使用 AI 功能。



不过端侧大模型的落地,并不是简单把云端模型缩小复制到硬件。大模型想要跑通手机终端,需要完成模型剪枝、量化压缩、算子适配,还要和芯片、操作系统深度协同。硬件层面,手机 SoC、NPU 神经网络单元性能成为关键门槛;软件层面,操作系统需要重构调度框架,保障大模型运行同时不耗尽设备电量、不挤占内存。过去很多厂商推出的端侧 AI 只是小模型,只能完成简单翻译、摘要,真正具备复杂推理能力的百亿级模型本地运行,在 2026 年才迎来技术拐点。

开源正在加速这一进程。过去闭源大模型时代,中小企业想要接入 AI 能力,只能采购厂商 API 接口,按 token 调用付费,中小商家、硬件厂商没有二次改造权限。随着多款高性能端侧大模型开源,硬件厂商、行业服务商可以基于开源底座二次微调,针对手机、车载、工业设备做定制化开发,不用从零训练大模型,大幅降低 AI 入局门槛。手机品牌已经率先行动,下半年多款旗舰机型,都将本地运行大模型作为全系标配,智能体、本地 AI 助手、离线文档处理将成为新机核心卖点。



机遇背后,行业同样存在现实挑战。首先是性能与效果的平衡,轻量化压缩之后,端侧模型综合能力相比云端版本依然存在差距,如何在有限硬件资源下兼顾推理效果,是所有厂商需要持续攻克的难题。其次是碎片化问题,市面上手机芯片型号繁多,不同 NPU 架构差异巨大,一套模型很难适配全部设备,适配调试成本居高不下。商业变现模式依旧待验证,开源免费底座摆在面前,企业怎么找到可持续盈利路径,摆脱单纯靠硬件加价的初级模式,是摆在行业面前的现实考题。

资本市场已经敏锐捕捉赛道变化。上半年,端侧 AI 相关芯片、AI 终端、模型工具链企业融资事件明显增多,市场资金逐步从通用大模型训练,流向模型压缩工具、端侧芯片、行业落地解决方案。行业共识已经形成:通用大模型讲故事的时代基本结束,能不能把 AI 真正部署到终端硬件,创造看得见的实际价值,才是衡量企业竞争力的核心标尺。

放眼未来,端侧和云端不会是互相替代,而是 “云‑端协同” 的格局。复杂重度任务交给云端大模型处理,日常高频交互、隐私敏感的计算留在本地终端。手机、汽车、机器人、工业设备,海量终端设备组成分布式 AI 网络,这将会是未来数字世界的基础形态。对于国内科技企业而言,端侧大模型开源浪潮,既是技术机遇,也是国产软硬件生态协同突围的关键窗口,谁能够打通模型、芯片、操作系统全链条,谁就有望抢占下一轮智能终端时代的话语权。

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
疯狂小杨哥复出,首秀太炸裂了!

疯狂小杨哥复出,首秀太炸裂了!

互联网品牌官
2026-10-20 15:48:36
同事升职没请我,却借我的名字在饭店订了20多桌,经理打电话核实,我拿着手机冷笑:我不认,直接报警吧

同事升职没请我,却借我的名字在饭店订了20多桌,经理打电话核实,我拿着手机冷笑:我不认,直接报警吧

晓艾故事汇
2026-10-20 09:34:08
字节跳动、阿里及腾讯订购英伟达新款GPU总标价逾350亿美元

字节跳动、阿里及腾讯订购英伟达新款GPU总标价逾350亿美元

财闻
2026-10-20 19:04:28
某国企玩阴的,变相大裁员!

某国企玩阴的,变相大裁员!

地产八卦
2026-10-23 06:12:59
南航,一个月退掉5架飞机!

南航,一个月退掉5架飞机!

民航之翼
2026-10-22 22:52:33
不晒参数只亮实力!官媒寥寥数语,揭开096真正深海底牌

不晒参数只亮实力!官媒寥寥数语,揭开096真正深海底牌

利刃号
2026-10-23 01:29:49
前TVB花旦一个月痛失两位挚友,沉重发文哀悼:有一天,那边再见!

前TVB花旦一个月痛失两位挚友,沉重发文哀悼:有一天,那边再见!

广州笋嘢益街坊
2026-10-21 22:20:29
中超第29轮!都是三点半开球 CCTV如果直播 你是看成都 还是海港比赛

中超第29轮!都是三点半开球 CCTV如果直播 你是看成都 还是海港比赛

80后体育大蜀黍
2026-10-22 18:31:18
欧洲展出一具“人体标本”,国人看后无不愤恨:这是中华女英雄!

欧洲展出一具“人体标本”,国人看后无不愤恨:这是中华女英雄!

小豫讲故事
2026-10-22 06:00:16
法国骚乱意外引爆美法“外交战”

法国骚乱意外引爆美法“外交战”

环球网资讯
2026-10-22 19:55:12
《小城良方》集齐9位东北演员,肖战但凡拉胯点都压不住王炸配角

《小城良方》集齐9位东北演员,肖战但凡拉胯点都压不住王炸配角

枫尘余往逝
2026-10-22 18:18:25
北汽集团:与宁德时代签署合作协议,共建换电生态

北汽集团:与宁德时代签署合作协议,共建换电生态

IT之家
2026-10-22 20:36:39
抱团退潮,基金最深回撤破十年纪录

抱团退潮,基金最深回撤破十年纪录

市值风云
2026-10-22 20:41:55
39岁郑欣宜:没结婚没孩子,独自去加拿大给母亲扫墓,父亲没出现

39岁郑欣宜:没结婚没孩子,独自去加拿大给母亲扫墓,父亲没出现

娱说瑜悦
2026-10-21 15:17:55
2027年将会是中华人民共和国全党、全军、全国各族人民重要的一年

2027年将会是中华人民共和国全党、全军、全国各族人民重要的一年

铁锤侃侃而谈
2026-09-12 00:54:59
老区通高铁 振兴谱新篇(赓续长征精神奋进复兴征程)

老区通高铁 振兴谱新篇(赓续长征精神奋进复兴征程)

人民网
2026-10-21 07:08:16
印度:摆脱中国!找德国买盾构机!德国:行,等我给你从中国订!

印度:摆脱中国!找德国买盾构机!德国:行,等我给你从中国订!

陈博世财经
2026-10-22 14:27:25
南京警方回应“留学生在国外身披旭日旗”事件:收到数百起举报,有专门部门处理,“这不是小事”

南京警方回应“留学生在国外身披旭日旗”事件:收到数百起举报,有专门部门处理,“这不是小事”

大风新闻
2026-10-21 22:57:10
懂车帝也太刚了!

懂车帝也太刚了!

胖胖说他不胖
2026-10-09 15:08:05
贾乃亮开启超12小时直播模式,单日销售额超5.7亿,创3年来最高纪录

贾乃亮开启超12小时直播模式,单日销售额超5.7亿,创3年来最高纪录

韩小娱
2026-10-22 17:21:27
2026-10-23 07:08:49
创作者_dR4i
创作者_dR4i
观察者报 资讯观察
124文章数 1关注度
往期回顾 全部

科技要闻

腾讯云谷歌紧急行动!互联网安全出大事

头条要闻

西藏那曲巴青7.0级地震已造成16人遇难 46人受伤

头条要闻

西藏那曲巴青7.0级地震已造成16人遇难 46人受伤

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

宁德,跌成了一只红利股?

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

本地
艺术
数码
时尚
公开课

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

艺术要闻

故宫藏一幅特殊古画:饱经起落的帝王画钟馗,不是吓人,是送整年好运

数码要闻

黑峡谷推出WEEK系列全铝三模矮轴机械键盘:84/100双版本,539元起

网红老头的荤话,售价16800

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版