网易首页 > 网易号 > 正文 申请入驻

高通Chris Lattner:以Mojo和MAX构建跨异构硬件的统一AI软件平台

0
分享至

【环球网科技综合报道】每隔几天处理数万亿词元,并将支持范围扩展至来自六家硬件厂商的六种架构,这是Modular统一AI软件平台目前展示出的生产规模和异构硬件覆盖能力。夏威夷当地时间9月23日,在2026骁龙峰会上,高通技术公司先进AI软件与平台执行副总裁Chris Lattner发表主题演讲,系统介绍了这一数据背后的统一AI基础设施。随着高通完成对Modular的收购,Chris Lattner及其团队加入高通。由Mojo、MAX和Modular Cloud构成的Modular平台,形成覆盖从AI内核开发、模型构建与服务到云端规模化部署的统一异构技术栈。


高通技术公司先进AI软件与平台执行副总裁Chris Lattner

作为前Modular的联合创始人兼首席执行官,Chris Lattner在演讲中称,当前行业正面临算力需求快速增长的挑战,众多硬件厂商采用不同技术路径填补算力供给缺口,整个行业投入大量资本构建异构硬件生态系统。“但真正的瓶颈在于软件。每个硬件团队都不得不从基础原理出发,构建自己的软件栈。即使是规模较大的公司,也难以跟上新模型研究持续演进的速度。”他认为,现代AI推理已经演变为大规模分布式系统问题,要保持竞争力就必须在系统的每一层进行优化,而AI开发者需要同时管理和调试多个相近却不同的软件栈。

Logan Iyer表示,Windows支持广泛而多元的生态系统,让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows,正是为了进一步拓展这些选择。借助Mojo,开发者可以使用熟悉的Python语法进行系统级编程,并在Windows上获得性能优化,这种可移植性还能跨越不同平台和厂商,从边缘延伸至云端。

这一困境让Chris Lattner联想到当年构建LLVM编译器基础设施时面临的挑战。当时,所有人都在使用已有20年历史的GCC技术,却难以证明实现升级所需投入的合理性。而LLVM通过提供统一的编译器基础设施,让不同硬件厂商共享同一套工具链,最终推动了整个行业的创新加速。“与当时一样,如果能让所有人携手合作,我们就能以全行业之力打破这一局面。”

三层架构构建统一AI技术栈

据悉,Modular平台由三个层级构成,覆盖从底层内核到云端部署的完整链路。Modular平台由三个相互衔接的层级构成:Mojo为AI内核和底层优化代码提供可编程基础;MAX负责生产级模型开发、推理与服务;Modular Cloud则支持AI工作负载在云端规模化部署。每一层都能独立发挥作用,组合在一起则构成从内核到云端的统一异构技术栈。

Mojo是面向AI硬件打造的高性能系统编程语言。Chris Lattner介绍,开发Mojo旨在解决AI开发长期存在的“三语言难题”:研究工作主要使用Python,高性能实现则依赖C++和CUDA,而AI的未来将跨越多种芯片并从云端延伸到边缘。Mojo提供能够在各种芯片和硬件上运行的编程语言,让AI研究人员、基础设施和硬件工程师使用熟悉的类Python语法,编写可移植的底层AI优化代码,同时不牺牲性能。Mojo 1.0已于上个月发布并达到生产就绪状态,完整语言包括标准库、编译器和工具链,已基于Apache 2.0许可全面开源。

在Mojo之上是MAX,这是面向生产级AI工作负载打造的模型开发与服务框架。MAX是一个现代化、面向生成式AI原生设计的框架,目前聚焦推理工作,未来将扩展至训练领域。MAX让AI研究人员和建模优化工程师能够在一个以可移植性为核心设计的统一框架中,构建高性能AI工作流。

最新推出的Modular Cloud则面向企业AI工程师、机器学习运维团队和生产级AI部署人员,让用户无需关心底层采用何种芯片架构,即可规模化部署AI工作负载,同时获得性能优化和总体拥有成本控制。开发者依然可以使用熟悉的API,而底层的资源配置、调度、扩展、优化和硬件选择均由Modular负责。

三层架构的设计逻辑,是减少开发者面向不同硬件平台重复改写和优化代码的工作,在研究、模型服务及规模化部署之间提供更加统一的开发体验,并降低维护多套相互割裂软件栈的复杂度。

平台落地验证 从数据中心ASIC到多架构支持

统一平台的价值需要在生产环境中验证。Chris Lattner分享了一组运行数据:Modular在生产环境中每隔几天就能处理数万亿词元,能够面向多家硬件厂商以及多代处理器平台提供性能优化。近期,Modular平台的支持范围从GPU扩展至专用数据中心ASIC,新增对三种全新架构的支持,使平台支持范围扩大至来自六家不同硬件厂商的六种架构。

在与高通的合作方面,双方正将Modular技术栈引入高通飞龙数据中心加速器产品组合。Chris Lattner表示,适配过程较为顺畅,因为基于高通成熟的NPU软件能力,将其与Modular面向AI和高性能场景的可扩展技术栈结合在一起,即可在高度可扩展的高通NPU平台系统之上实现性能优化。

“我们的使命很简单:充分释放异构计算的潜力。”Chris Lattner表示,未来的AI硬件只会越来越多样化、越来越复杂,关键不只在于硬件本身,更在于赋予开发者自由——让他们能够使用开放技术栈和开放系统,针对自身应用场景选择合适的硬件,同时不牺牲实现优质体验所需的性能。这让每个人都能更自由地构建自己想要打造的产品和服务。

数据中心只是高通业务布局的一部分。高通的产品技术覆盖从毫瓦级到千瓦级乃至更高的计算范围,依托一个高度模块化、可扩展的硬件平台实现这一覆盖。随着Modular加入高通,整套Modular软件平台正被引入高通的所有产品组合,其中也包括骁龙。这意味着,统一AI软件栈的能力将从数据中心延伸至手机、PC、可穿戴设备、汽车等边缘终端。


从云到端 开放生态推动AI创新普惠

软件平台的统一离不开操作系统生态的配合。在演讲中,Chris Lattner宣布与微软深化合作,进一步推进Modular技术栈对Windows平台的支持。微软Windows平台与开发者事业部企业副总裁Logan Iyer登台介绍,双方团队正在合作为Mojo开发Windows原生支持。

Logan Iyer表示,Windows支持广泛而多元的生态系统,让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows,正是为了进一步拓展这些选择。借助Mojo,开发者可以使用熟悉的Python语法进行系统级编程,并在Windows上获得性能优化,这种可移植性还能跨越不同平台和厂商,从边缘延伸至云端。

Chris Lattner在演讲中说:“关键不只在于硬件本身,更在于赋予开发者自由。”当行业目光集中在更大的模型参数和更高的芯片算力时,Chris Lattner把关注点放在了另一处:让开发者能够以更统一的方式面向多种硬件架构开发和优化AI工作负载。每隔几天数万亿词元的处理量,表明Modular技术栈已经承载真实的生产级工作负载;而平台向六家硬件厂商、六种架构扩展,则进一步体现其面向异构计算环境的发展方向。(心月)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
武器进口持续锐减引关注,日媒人士猜测中国或将基本不再外购武器

武器进口持续锐减引关注,日媒人士猜测中国或将基本不再外购武器

田园小归
2026-11-03 18:30:55
660公里“没商量”:普京在乌东四州之外,又划了一条会自己往前爬的线

660公里“没商量”:普京在乌东四州之外,又划了一条会自己往前爬的线

纪史行者
2026-10-30 05:15:03
WTT冠军赛:11月4日赛程公布!国乒再战强敌,王艺迪对决削球名将

WTT冠军赛:11月4日赛程公布!国乒再战强敌,王艺迪对决削球名将

全言作品
2026-11-04 05:16:28
广东一男子戴一晚上外科手套,没想到竟和手部“融为一体”

广东一男子戴一晚上外科手套,没想到竟和手部“融为一体”

黄河新闻网吕梁
2026-11-04 17:24:06
中国面临两大战略缺口:一个是“台湾”问题,另一个曾动用300万大军才勉强堵住的致命防线

中国面临两大战略缺口:一个是“台湾”问题,另一个曾动用300万大军才勉强堵住的致命防线

林杰论事
2026-10-18 15:37:07
-31℃,一天温差近50度?上海人直接看懵了!网友:极寒末日降临!iPhone天气故障冲上热搜,中国气象局回应

-31℃,一天温差近50度?上海人直接看懵了!网友:极寒末日降临!iPhone天气故障冲上热搜,中国气象局回应

新民晚报
2026-11-04 10:48:35
周薪 28 万!利物浦高薪巨星彻底失宠!昔日王牌岌岌可危

周薪 28 万!利物浦高薪巨星彻底失宠!昔日王牌岌岌可危

澜归序
2026-11-04 09:55:33
离谱!博尔特1270万养老金只剩1.2万:9秒58跑赢全球,却输给老乡

离谱!博尔特1270万养老金只剩1.2万:9秒58跑赢全球,却输给老乡

丁隗解说
2026-10-27 15:28:47
为什么这些跨境电诈集团不算恐怖组织?

为什么这些跨境电诈集团不算恐怖组织?

风铃草语
2026-11-04 07:22:02
NBA砍下27000分用时最快的7人:老詹995场才第5,乔丹852场无缘第1

NBA砍下27000分用时最快的7人:老詹995场才第5,乔丹852场无缘第1

篮球圈里的那些事
2026-11-04 08:51:17
广东男子欠下30000电费,气急败坏对电工说:给我剪!意外发生了

广东男子欠下30000电费,气急败坏对电工说:给我剪!意外发生了

牛魔王与芭蕉扇
2024-12-03 16:49:14
突发!余嘉豪社媒发声求交易,浙江内线陷入两难

突发!余嘉豪社媒发声求交易,浙江内线陷入两难

涵有话说
2026-11-04 09:53:48
女子查出8mm肺结节,7个月后结节消失,她的做法值得借鉴

女子查出8mm肺结节,7个月后结节消失,她的做法值得借鉴

健康科普365
2026-08-26 16:30:12
火箭迎战森林狼!预计首发出炉:内外双核搭配3前锋,3连胜稳了?

火箭迎战森林狼!预计首发出炉:内外双核搭配3前锋,3连胜稳了?

熊哥爱篮球
2026-11-04 20:56:25
终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

慧翔百科
2026-06-23 08:47:02
李佳琦直播间,半小时卖出2万亿Token!

李佳琦直播间,半小时卖出2万亿Token!

齐鲁壹点
2026-11-03 07:16:29
霍勒迪替补单场贡献17分8板10助 成开拓者队史近33年首人

霍勒迪替补单场贡献17分8板10助 成开拓者队史近33年首人

北青网-北京青年报
2026-11-04 21:58:02
多部门部署加强消费基础设施建设

多部门部署加强消费基础设施建设

新华社
2026-11-04 11:23:24
为什么总有人要亲自吃亏才听前人劝

为什么总有人要亲自吃亏才听前人劝

风铃草语
2026-11-04 07:17:15
《飘》敲醒所有陪男人吃苦的女人:男人越是在钱上跟你分你我,越把婚姻当买卖,出事就往后缩,你别一哭二闹三上吊,这一招能让他赔得底朝天

《飘》敲醒所有陪男人吃苦的女人:男人越是在钱上跟你分你我,越把婚姻当买卖,出事就往后缩,你别一哭二闹三上吊,这一招能让他赔得底朝天

晓悦流年
2026-11-02 15:25:31
2026-11-04 22:24:49
环球Tech incentive-icons
环球Tech
环球科技范儿,关注科技圈动态
54657文章数 65213关注度
往期回顾 全部

科技要闻

国行苹果AI上手实测:苦等两年,成色如何

头条要闻

美国中选民主党掀"蓝色浪潮" 共和党丢掉3个"铁票仓"

头条要闻

美国中选民主党掀"蓝色浪潮" 共和党丢掉3个"铁票仓"

体育要闻

老板豪言建队五年必夺冠 球员:保守了

娱乐要闻

甩掉周一围嫁富豪,童蕾今负债亿元,

财经要闻

苹果“躺赢”了英伟达

汽车要闻

省钱 它是认真的!银河星耀6EF每公里成本只要2毛

态度原创

教育
旅游
健康
时尚
军事航空

教育要闻

高中家长为什么都不关心考试了?

旅游要闻

中国文旅全新亮相伦敦世界旅游交易会

痘痘长到25岁还没完?查查内分泌

真爱大牌|| 爱了5年,终于等到他家破价

军事要闻

伊朗要求美明确回应7项条件

无障碍浏览 进入关怀版