网易首页 > 网易号 > 正文 申请入驻

高通Chris Lattner:以Mojo和MAX构建跨异构硬件的统一AI软件平台

0
分享至

【环球网科技综合报道】每隔几天处理数万亿词元,并将支持范围扩展至来自六家硬件厂商的六种架构,这是Modular统一AI软件平台目前展示出的生产规模和异构硬件覆盖能力。夏威夷当地时间9月23日,在2026骁龙峰会上,高通技术公司先进AI软件与平台执行副总裁Chris Lattner发表主题演讲,系统介绍了这一数据背后的统一AI基础设施。随着高通完成对Modular的收购,Chris Lattner及其团队加入高通。由Mojo、MAX和Modular Cloud构成的Modular平台,形成覆盖从AI内核开发、模型构建与服务到云端规模化部署的统一异构技术栈。


高通技术公司先进AI软件与平台执行副总裁Chris Lattner

作为前Modular的联合创始人兼首席执行官,Chris Lattner在演讲中称,当前行业正面临算力需求快速增长的挑战,众多硬件厂商采用不同技术路径填补算力供给缺口,整个行业投入大量资本构建异构硬件生态系统。“但真正的瓶颈在于软件。每个硬件团队都不得不从基础原理出发,构建自己的软件栈。即使是规模较大的公司,也难以跟上新模型研究持续演进的速度。”他认为,现代AI推理已经演变为大规模分布式系统问题,要保持竞争力就必须在系统的每一层进行优化,而AI开发者需要同时管理和调试多个相近却不同的软件栈。

Logan Iyer表示,Windows支持广泛而多元的生态系统,让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows,正是为了进一步拓展这些选择。借助Mojo,开发者可以使用熟悉的Python语法进行系统级编程,并在Windows上获得性能优化,这种可移植性还能跨越不同平台和厂商,从边缘延伸至云端。

这一困境让Chris Lattner联想到当年构建LLVM编译器基础设施时面临的挑战。当时,所有人都在使用已有20年历史的GCC技术,却难以证明实现升级所需投入的合理性。而LLVM通过提供统一的编译器基础设施,让不同硬件厂商共享同一套工具链,最终推动了整个行业的创新加速。“与当时一样,如果能让所有人携手合作,我们就能以全行业之力打破这一局面。”

三层架构构建统一AI技术栈

据悉,Modular平台由三个层级构成,覆盖从底层内核到云端部署的完整链路。Modular平台由三个相互衔接的层级构成:Mojo为AI内核和底层优化代码提供可编程基础;MAX负责生产级模型开发、推理与服务;Modular Cloud则支持AI工作负载在云端规模化部署。每一层都能独立发挥作用,组合在一起则构成从内核到云端的统一异构技术栈。

Mojo是面向AI硬件打造的高性能系统编程语言。Chris Lattner介绍,开发Mojo旨在解决AI开发长期存在的“三语言难题”:研究工作主要使用Python,高性能实现则依赖C++和CUDA,而AI的未来将跨越多种芯片并从云端延伸到边缘。Mojo提供能够在各种芯片和硬件上运行的编程语言,让AI研究人员、基础设施和硬件工程师使用熟悉的类Python语法,编写可移植的底层AI优化代码,同时不牺牲性能。Mojo 1.0已于上个月发布并达到生产就绪状态,完整语言包括标准库、编译器和工具链,已基于Apache 2.0许可全面开源。

在Mojo之上是MAX,这是面向生产级AI工作负载打造的模型开发与服务框架。MAX是一个现代化、面向生成式AI原生设计的框架,目前聚焦推理工作,未来将扩展至训练领域。MAX让AI研究人员和建模优化工程师能够在一个以可移植性为核心设计的统一框架中,构建高性能AI工作流。

最新推出的Modular Cloud则面向企业AI工程师、机器学习运维团队和生产级AI部署人员,让用户无需关心底层采用何种芯片架构,即可规模化部署AI工作负载,同时获得性能优化和总体拥有成本控制。开发者依然可以使用熟悉的API,而底层的资源配置、调度、扩展、优化和硬件选择均由Modular负责。

三层架构的设计逻辑,是减少开发者面向不同硬件平台重复改写和优化代码的工作,在研究、模型服务及规模化部署之间提供更加统一的开发体验,并降低维护多套相互割裂软件栈的复杂度。

平台落地验证 从数据中心ASIC到多架构支持

统一平台的价值需要在生产环境中验证。Chris Lattner分享了一组运行数据:Modular在生产环境中每隔几天就能处理数万亿词元,能够面向多家硬件厂商以及多代处理器平台提供性能优化。近期,Modular平台的支持范围从GPU扩展至专用数据中心ASIC,新增对三种全新架构的支持,使平台支持范围扩大至来自六家不同硬件厂商的六种架构。

在与高通的合作方面,双方正将Modular技术栈引入高通飞龙数据中心加速器产品组合。Chris Lattner表示,适配过程较为顺畅,因为基于高通成熟的NPU软件能力,将其与Modular面向AI和高性能场景的可扩展技术栈结合在一起,即可在高度可扩展的高通NPU平台系统之上实现性能优化。

“我们的使命很简单:充分释放异构计算的潜力。”Chris Lattner表示,未来的AI硬件只会越来越多样化、越来越复杂,关键不只在于硬件本身,更在于赋予开发者自由——让他们能够使用开放技术栈和开放系统,针对自身应用场景选择合适的硬件,同时不牺牲实现优质体验所需的性能。这让每个人都能更自由地构建自己想要打造的产品和服务。

数据中心只是高通业务布局的一部分。高通的产品技术覆盖从毫瓦级到千瓦级乃至更高的计算范围,依托一个高度模块化、可扩展的硬件平台实现这一覆盖。随着Modular加入高通,整套Modular软件平台正被引入高通的所有产品组合,其中也包括骁龙。这意味着,统一AI软件栈的能力将从数据中心延伸至手机、PC、可穿戴设备、汽车等边缘终端。


从云到端 开放生态推动AI创新普惠

软件平台的统一离不开操作系统生态的配合。在演讲中,Chris Lattner宣布与微软深化合作,进一步推进Modular技术栈对Windows平台的支持。微软Windows平台与开发者事业部企业副总裁Logan Iyer登台介绍,双方团队正在合作为Mojo开发Windows原生支持。

Logan Iyer表示,Windows支持广泛而多元的生态系统,让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows,正是为了进一步拓展这些选择。借助Mojo,开发者可以使用熟悉的Python语法进行系统级编程,并在Windows上获得性能优化,这种可移植性还能跨越不同平台和厂商,从边缘延伸至云端。

Chris Lattner在演讲中说:“关键不只在于硬件本身,更在于赋予开发者自由。”当行业目光集中在更大的模型参数和更高的芯片算力时,Chris Lattner把关注点放在了另一处:让开发者能够以更统一的方式面向多种硬件架构开发和优化AI工作负载。每隔几天数万亿词元的处理量,表明Modular技术栈已经承载真实的生产级工作负载;而平台向六家硬件厂商、六种架构扩展,则进一步体现其面向异构计算环境的发展方向。(心月)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
珠海统筹千亿资源,支持华发集团应对阶段性挑战

珠海统筹千亿资源,支持华发集团应对阶段性挑战

21世纪经济报道
2026-11-04 16:08:43
太扎心了!25岁女子和前男友酒店发生关系,事后仍被拒绝复合,女子不甘心,从此前男友就消失不见了

太扎心了!25岁女子和前男友酒店发生关系,事后仍被拒绝复合,女子不甘心,从此前男友就消失不见了

丫头舫
2026-10-19 20:19:42
甲钴胺被点名了!发现:糖尿病人吃甲钴胺,不用久等或有6个变化

甲钴胺被点名了!发现:糖尿病人吃甲钴胺,不用久等或有6个变化

九哥聊军事
2026-11-04 05:24:19
被严重低估的中国空军实力:53个航空旅,放在全球属于什么水平?

被严重低估的中国空军实力:53个航空旅,放在全球属于什么水平?

午夜搭车a
2026-11-03 15:38:04
赛季最夸张之人,杰罗姆如何震撼联盟?

赛季最夸张之人,杰罗姆如何震撼联盟?

只关于篮球
2026-11-04 12:29:03
冯德伦被问陈奕迅女儿感情纠葛:我和他感情一直都不好

冯德伦被问陈奕迅女儿感情纠葛:我和他感情一直都不好

师维
2026-11-04 16:18:47
民主党大胜!特朗普:绝对愿意接受选举结果,准备与民主党合作

民主党大胜!特朗普:绝对愿意接受选举结果,准备与民主党合作

磊子讲史
2026-11-04 17:43:14
50岁医生失业后跑滴滴,月入2万多

50岁医生失业后跑滴滴,月入2万多

梅斯医学
2026-11-04 07:53:16
以军拉响最高警报 ! 伊朗1700枚导弹指向以色列,美军增援赶得上吗 ?

以军拉响最高警报 ! 伊朗1700枚导弹指向以色列,美军增援赶得上吗 ?

静儿家
2026-11-03 18:59:04
紫牛头条|南京两家“零元面馆”火了,吃面免费,每天门前排起长队

紫牛头条|南京两家“零元面馆”火了,吃面免费,每天门前排起长队

扬子晚报
2026-11-03 07:20:39
伊朗最高领袖终于现身,穆杰塔巴下令,要结束当前不战不和的局面

伊朗最高领袖终于现身,穆杰塔巴下令,要结束当前不战不和的局面

徐徐道史
2026-11-03 14:31:23
“刘念涉嫌刑事犯罪遭调查”热搜第一,短剧顶流演员刘念被爆“涉嫌职务侵占”,爆料人给出警方受案回执,当事人暂未回应,其新剧明日开播

“刘念涉嫌刑事犯罪遭调查”热搜第一,短剧顶流演员刘念被爆“涉嫌职务侵占”,爆料人给出警方受案回执,当事人暂未回应,其新剧明日开播

海峡网
2026-11-05 01:05:27
勇士正在扣留铂金的薪水,他们也想要尽快将他送走以补强竞争力?

勇士正在扣留铂金的薪水,他们也想要尽快将他送走以补强竞争力?

稻谷与小麦
2026-11-05 01:28:13
北京初雪要来了?具体时间——

北京初雪要来了?具体时间——

BRTV新闻
2026-11-04 14:34:56
25岁女子每天使用手机超10小时,患上“手机痴呆症”,医生:大脑因长期依赖数码产品而“变懒”,而非真正意义上的痴呆

25岁女子每天使用手机超10小时,患上“手机痴呆症”,医生:大脑因长期依赖数码产品而“变懒”,而非真正意义上的痴呆

扬子晚报
2026-11-04 12:28:46
西蒙斯:詹姆斯上赛季和东契奇搭档时"很痛苦"

西蒙斯:詹姆斯上赛季和东契奇搭档时"很痛苦"

赛场速报局
2026-11-05 00:35:19
1992年,一对夫妻宇航员上天,在太空发生“关系”是种什么体验?

1992年,一对夫妻宇航员上天,在太空发生“关系”是种什么体验?

掠影后有感
2026-10-26 09:55:57
大幅轮换的皇马奔赴希腊客场,冲击7连胜 ;雅典AEK主场7场全胜堪称恐怖

大幅轮换的皇马奔赴希腊客场,冲击7连胜 ;雅典AEK主场7场全胜堪称恐怖

福酱的小时光
2026-11-04 17:48:35
记者:皇马与JJ达口头协议,若转会成行曼联将考虑采取法律行动

记者:皇马与JJ达口头协议,若转会成行曼联将考虑采取法律行动

懂球帝
2026-11-04 19:29:23
53岁前国脚现状:前上海申花球员,被误诊早退役,今在昆明当主教

53岁前国脚现状:前上海申花球员,被误诊早退役,今在昆明当主教

莫地方
2026-11-04 15:00:29
2026-11-05 01:43:00
环球Tech incentive-icons
环球Tech
环球科技范儿,关注科技圈动态
54657文章数 65213关注度
往期回顾 全部

科技要闻

国行苹果AI上手实测:苦等两年,成色如何

头条要闻

共和党败选后 特朗普1小时狂发71条贴文还官宣"改行"

头条要闻

共和党败选后 特朗普1小时狂发71条贴文还官宣"改行"

体育要闻

老板豪言建队五年必夺冠 球员:保守了

娱乐要闻

甩掉周一围嫁富豪,童蕾今负债亿元,

财经要闻

苹果“躺赢”了英伟达

汽车要闻

省钱 它是认真的!银河星耀6EF每公里成本只要2毛

态度原创

房产
艺术
数码
教育
军事航空

房产要闻

7宗核心靓地蓄势待发!荔湾、番禺、黄埔、白云齐上阵

艺术要闻

吴冠中《碧海松风》,树被海风吹得如驼背的老人

数码要闻

等了两年的iPhone国行AI,一手实测后我劝你别急着升

教育要闻

好课出炉,文脉相传!第三届 "蓉城方志好课" 获奖名单正式揭晓

军事要闻

伊朗要求美明确回应7项条件

无障碍浏览 进入关怀版