网易首页 > 网易号 > 正文 申请入驻

下一代骁龙旗舰:300亿参数模型跑在手机上?

0
分享至

高通在骁龙峰会前连续放了三轮料,CPU、GPU、NPU各一篇。今天,把这三块拼到一起看,会发现这代平台的升级逻辑和以前不太一样了——不是某个模块单独猛堆参数,而是三大引擎围绕AI智能体这个场景重新分工了。

应对内存挑战

根据高通最新放出的NPU相关信息,全新的Hexagon NPU有两个核心创新。第一个是Element Accelerator,专门为Transformer工作负载打造。它结合了向量计算单元和标量计算单元,加速大模型中最关键的运算。要知道现在的大语言模型本质上都是Transformer架构,所以这个新单元理论上可以让这类模型在手机上跑得更快、更省电。



第二个是大容量共享内存扩容50%。大语言模型推理时需要维护一个叫KV-cache的东西,用来保存之前的对话上下文。以前这个缓存经常要往系统内存里倒腾,现在扩容后可以更多地留在NPU内部,减少DDR访问次数,延迟降了,也给其他任务腾出了内存带宽。

高通给出的数据是,INT4模型预填充速度提升50%,首个词元生成时间低于1.5秒。预填充速度决定了AI读懂你的问题和上下文有多快。这样的提升表现,基本就是你刚问完它就开始答了。

值得关注的是,高通正在和内存、模型厂商合作,试图把300亿参数规模的MoE模型搬上手机。要知道现在手机的DDR内存根本装不下300亿参数的模型。高通的解法是——模型存在闪存里,需要哪个就加载哪个。



MoE模型的特点是,虽然总参数有300亿,但每次生成一个词元时,只激活其中被路由选中的约30亿参数。配合闪存到内存的智能加载管理机制,就能以低功耗、低内存占用的方式,获得数百亿参数模型的能力。

这件事的意义在于,端侧AI的天花板被大幅抬高了。以前手机上跑个70亿参数模型就已经很吃力,现在300亿参数级别的体验成为可能。模型越大,推理和规划能力越强,智能体才能真正干复杂的活。

此外,新NPU支持从INT2、INT4、INT8到FP8、FP16的全精度范围,开发者可以根据任务需求在性能、内存、模型质量和功耗之间灵活取舍。

CPU、GPU都是算力的一部分

CPU方面,新平台引入了Oryon FlexCache架构。传统CPU的缓存是每个核心固定分配,大核用大核的,小核用小核的。FlexCache让所有核心共享一个动态缓存池,高负载任务跑在大核上时可以几乎占用整个缓存池,任务在核心间切换时数据也不用重新加载。

因为智能体不是跑一个单一任务,它要频繁地在线程之间迁移,调用运行在不同核心上的工具。如果每次切换都要重新从内存读数据,响应速度就垮了。FlexCache让智能体在跑高负载任务的同时不会降低响应速度。



新一代Adreno GPU也有一个重要的硬件变化,即首次加入Adreno Matrix Cores。Matrix Cores是GPU里专门的AI加速核心。加上它之后,高通平台里NPU、CPU、GPU三个引擎全都具备了Matrix加速能力——AI不再是NPU一个模块的事,而是整个平台的基础能力。



基于Matrix Cores推出的Adreno Neural Fusion,把AI超分辨率和AI帧生成直接做进了GPU图形管线,不用再把数据搬到NPU处理。对游戏来说,这意味着更低的功耗、更少的画面伪影、更稳的帧率。高通内部demo数据显示功耗可降低40%。

放在智能体场景下,GPU也不只是负责画面。当多个模型同时在终端侧运行时,Hexagon NPU和Adreno GPU会共同承担AI推理任务。GPU的Matrix Cores在这里也派上了用场,不是NPU的替补,而是协同算力的一部分。

AI成了芯片底色

把CPU、NPU、GPU放到一起,这代平台的智能体工作流是这样的:传感器中枢(Sensing Hub)始终保持低功耗的环境语音感知,收到下达指令后,Oryon CPU被唤醒,负责理解意图、拆解任务、规划工作流。如果某个步骤需要调用云端API,CPU负责调度路由。如果是端侧就能搞定的推理,CPU决定交给谁。

Hexagon NPU是推理主力,大语言模型、图像理解这些主要靠它。300亿参数MoE模型的支持让它能处理更复杂的规划和推理。Adreno GPU一方面负责渲染画面(比如游戏、视频),另一方面在多模型并发场景下和NPU一起分担AI推理。



整个过程中,FlexCache让CPU调度不卡顿,HPM和NPU共享内存让数据尽量留在芯片内部,减少对DDR的依赖。高通反复提到内存资源是行业挑战,这代平台的几乎每一项创新都在围绕减少内存访问做文章。

不难发现,以前每代升级,大家最关心的是安兔兔跑分涨了多少、CPU多核性能提升百分之几。这代平台虽然也有5GHz、GPU频率提升这些硬参数,但高通花了更多篇幅讲的是——CPU怎么编排任务、NPU怎么跑大模型、GPU怎么参与AI推理、三者怎么协同。

至少从目前披露的信息来看,高通的思路很明确:AI不再是某个功能,而是整个芯片的底层工作方式。9月22日到24日,夏威夷骁龙峰会,新平台会正式发布。到时候具体的性能增幅、实际演示效果,以及首批合作的游戏和应用名单都会揭晓。这代骁龙不是为跑分而生的,它是为智能体而生的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
陈建州心梗病因真相大白,不抽烟,不喝酒,但有个改不掉的坏习惯

陈建州心梗病因真相大白,不抽烟,不喝酒,但有个改不掉的坏习惯

梦醉为红颜一笑
2026-09-19 08:44:37
交锋:大结局最大骗局!骗哭亿万观众,全网猜错的终极底牌太好哭

交锋:大结局最大骗局!骗哭亿万观众,全网猜错的终极底牌太好哭

小椰的奶奶
2026-09-20 15:50:48
杭州警方通报一中学门口车辆撞人事故:2人受伤,驾驶人操作不当

杭州警方通报一中学门口车辆撞人事故:2人受伤,驾驶人操作不当

界面新闻
2026-09-20 16:07:09
中美俄离婚率:美国2.4‰,俄罗斯高达4.4‰,中国的数据是多少

中美俄离婚率:美国2.4‰,俄罗斯高达4.4‰,中国的数据是多少

影孖看世界
2026-09-17 19:21:58
伊议长:伊朗条件得到满足前霍尔木兹海峡将保持关闭

伊议长:伊朗条件得到满足前霍尔木兹海峡将保持关闭

新京报
2026-09-20 14:52:13
沙特找中国调停胡塞,最刺眼的不是“找中国”,是先敲了美国的门

沙特找中国调停胡塞,最刺眼的不是“找中国”,是先敲了美国的门

叶葉夜
2026-09-18 17:39:04
中国科学院院士窦贤康:钱能不能给到最优秀的年轻人,决定中国科技发展速度!

中国科学院院士窦贤康:钱能不能给到最优秀的年轻人,决定中国科技发展速度!

经典SCI解读
2026-09-20 09:09:06
湖南邵阳案:若办案可以“创收”,那警察和税务局还有什么区别?

湖南邵阳案:若办案可以“创收”,那警察和税务局还有什么区别?

有戏
2026-09-20 14:41:54
3.4 亿退休人员,有人每月 16000 元退休金是什么概念?

3.4 亿退休人员,有人每月 16000 元退休金是什么概念?

白米饭怎么吃
2026-08-22 22:10:21
网传日本女优高桥来中国仙人跳,与客人钱色交易后又顺走50万日元

网传日本女优高桥来中国仙人跳,与客人钱色交易后又顺走50万日元

雪峰说法
2026-09-15 08:05:03
菲律宾急得跳脚!平陆运河刚通航,菲代表团就来了,中方正式摊牌

菲律宾急得跳脚!平陆运河刚通航,菲代表团就来了,中方正式摊牌

铜臭的历史味
2026-09-20 02:55:39
你见过最不讲卫生的女生是怎样的?网友:下回不准描述这么细致了

你见过最不讲卫生的女生是怎样的?网友:下回不准描述这么细致了

夜深爱杂谈
2026-09-14 20:38:40
悲催!考上全县最好高中,多次宿舍吸烟被勒令退学,少年:我没哭,看到父母求人破防了

悲催!考上全县最好高中,多次宿舍吸烟被勒令退学,少年:我没哭,看到父母求人破防了

火山詩话
2026-09-20 12:22:27
31岁医学女博士辞去医生工作,送外卖、做驻唱:想试试生活有多少种可能

31岁医学女博士辞去医生工作,送外卖、做驻唱:想试试生活有多少种可能

扬子晚报
2026-09-17 20:39:38
杀疯了!89天暴跌89%!近6天又跌25%,2.3万股民深套,谁在疯狂砸盘?

杀疯了!89天暴跌89%!近6天又跌25%,2.3万股民深套,谁在疯狂砸盘?

趋势清风侠
2026-09-20 12:30:26
溥仪弥留之际吐露心声:我一生不亲近婉容,并非厌弃,而是大婚当夜那一眼摧毁了我的尊严,这究竟是何种宿命残缺?

溥仪弥留之际吐露心声:我一生不亲近婉容,并非厌弃,而是大婚当夜那一眼摧毁了我的尊严,这究竟是何种宿命残缺?

唠叨说历史
2026-09-09 15:47:26
王源演唱会“翻车”,面对面建群短时间内人数直接触顶,被系统判定为“涉嫌欺诈”:想给几万人发祝福,结果仅剩自己一人;粉丝直呼天塌了

王源演唱会“翻车”,面对面建群短时间内人数直接触顶,被系统判定为“涉嫌欺诈”:想给几万人发祝福,结果仅剩自己一人;粉丝直呼天塌了

极目新闻
2026-09-20 11:28:32
U20女足世界杯太残酷了:随着韩国1-3出局,亚洲军团濒临全军覆没

U20女足世界杯太残酷了:随着韩国1-3出局,亚洲军团濒临全军覆没

侧身凌空斩
2026-09-19 22:50:40
发现一个残酷事实:封杀5年的赵薇,经济状况被扒,如今再难翻身

发现一个残酷事实:封杀5年的赵薇,经济状况被扒,如今再难翻身

皮皮电影
2026-09-19 23:55:05
生育大势定了?如果没有意外,明年中国出生人口或将迎来3大变化

生育大势定了?如果没有意外,明年中国出生人口或将迎来3大变化

解锁世界风云
2026-09-20 15:21:18
2026-09-20 19:36:49
机智猫 incentive-icons
机智猫
好产品会让人幸福的
6533文章数 3788关注度
往期回顾 全部

科技要闻

谷歌承认:AI模型“黑”进3家公司

头条要闻

中国男篮铜牌战不敌伊朗男篮 创下12年来最差亚运战绩

头条要闻

中国男篮铜牌战不敌伊朗男篮 创下12年来最差亚运战绩

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

许嵩刚官宣结婚,冯禧黑历史就被扒

财经要闻

民企土地 被政府"无偿收储"后转手卖7亿

汽车要闻

FREELANDER神行者8开启交付 首批新车正式交付用户

态度原创

家居
艺术
亲子
旅游
时尚

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

亚洲最大!武汉图书馆新馆亮灯,耗资18亿

亲子要闻

十件事看透孩子的心理!

旅游要闻

光影节黄浦重磅新玩法!和夜鹭一起垂钓,还能玩转130米电信大楼!

关上浴室门,把世界留在门外。

无障碍浏览 进入关怀版