OpenAI首颗芯片炸场：第一代就杀进前沿，直面英伟达最深的护城河

出品 | 网易智能

作者 | 辰辰

编辑 | 王凤枝

第一代自研芯片，通常是用来交学费的。OpenAI这次没有。

当地时间8月25日，OpenAI在芯片行业会议Hot Chips期间，公布了Jalapeño的第一组实测数据。

Jalapeño标称功耗700瓦，对面的英伟达GB300是1400瓦。在SemiAnalysis现场验证部分运行的InferenceX测试中，Jalapeño在三个开放权重模型上取得了更高的每瓦吞吐和更低的端到端延迟。

SemiAnalysis甚至认为，Jalapeño的表现已经超过英伟达Blackwell。

不过，这还不算一场完整的正面对决。测试没有覆盖全部生产负载，数据主要由OpenAI提供，芯片也尚未大规模部署。现在还不能说OpenAI已经全面击败英伟达。

但一家第一次造ASIC的模型公司，第一代产品就摸到了前沿推理芯片的竞争区间，这件事本身已经不寻常。

而比性能图更值得留意的，是OpenAI正在让AI参与芯片的设计和编程，试图绕过自研芯片最难补齐的那块短板：软件生态。Jalapeño真正触碰的，可能不是英伟达某一代芯片的性能上限，而是比性能更深一层的东西：CUDA。

三组数据

三个模型

Jalapeño是OpenAI与博通合作开发的推理专用ASIC，只做推理不做训练，围绕特定负载定制，不依赖英伟达的CUDA生态。它今年6月首次公开，两个月后OpenAI交出了第一份成绩单。

测试使用的是SemiAnalysis推出的公开基准InferenceX，对比对象是英伟达GB200和GB300系统。三个模型跑下来：

每瓦能够完成的AI工作量，高出1.5至1.9倍；

端到端延迟优势达到1.7至3.6倍；

在高交互场景中，性能高出2.1至4.1倍。

三个模型分别是GPT-OSS 120B、DeepSeek R1 670B，以及月之暗面的Kimi K2.5 1T。第三个模型拥有一万亿参数，是这次测试中规模最大的一个。Jalapeño在它上面的峰值每瓦性能约高出1.5倍，端到端延迟低3.4倍。

OpenAI硬件副总裁理查德·何（Richard Ho）的说法是，AI系统通常要在低延迟和高吞吐之间取舍，而Jalapeño试图同时做到两点。

两个边界要先交代清楚。一是对比对象不含Rubin：OpenAI官方对比的是Blackwell平台的GB200和GB300，而不是同样使用HBM4、已经开始交付的Rubin。SemiAnalysis随后把Jalapeño与英伟达此前公布的Rubin结果放在一起比较，但那不是同一实验室、同一轮测试的正面对决。二是数据由OpenAI提供：SemiAnalysis在实验室现场验证了InferenceX的部分运行，没有完成整套测试，也没有看到AgentX结果，而后者更接近真实的智能体生产负载。

700瓦背后的账

我们回到芯片规格。

单颗Jalapeño配备6组HBM4内存，总容量216GB，带宽达到15.4TB/s。芯片采用台积电N3P工艺，标称功耗700瓦。OpenAI称，在本次测试负载中，它的持续功耗始终没有超过550瓦。

作为对照，英伟达GB300配备288GB HBM3E，标称功耗1400瓦。

需要说明的是，OpenAI这次计算每瓦性能时，采用的是双方公开的芯片封装功耗，而不是在同一实验室测得的实际用电量。因此，700瓦和1400瓦不能直接理解成"只花一半电费"，但可以作为统一的功耗归一化口径。

OpenAI反复强调"每瓦"，是因为电力正在成为AI扩张最难增加的资源之一。数据中心能接入多少电，受电网、散热和备用电源等条件限制。增加芯片相对容易，增加可用电力却可能需要数年。

黄仁勋今年在Computex 2026上说过一句话："如果你有一吉瓦电力，那么每瓦的吞吐量，就是收入。"

在电力封顶的情况下，谁能用相同功率生成更多token，谁就能在同一座数据中心里服务更多用户。所以OpenAI把每瓦性能放在第一位。

还有一层更直接的理由：成本。

OpenAI每年要把大量资金花在推理算力上。如果自研芯片能够降低总拥有成本，它就可能改善推理业务的毛利。但最终能省多少，还要看芯片设计、良率、HBM和封装、网络、部署到长期运维这整条账。

很多自研芯片计划最困难的地方，也不只是把硬件造出来。每增加一种模型、算子和运行方式，软件栈都要继续适配和优化。GPU昂贵，但CUDA替客户承担了其中很大一部分工程成本。

Jalapeño接下来还要证明，这笔长期的软件账能不能降下来。

为什么它能同时做到快和省电

这和Jalapeño的设计起点有关。

通用加速器需要兼顾训练、推理以及不同类型的计算任务。Jalapeño从一开始围绕语言模型推理设计，尤其关注需要连续执行多个步骤的智能体负载。

语言模型推理大致分成两个阶段。预填充阶段需要处理整段输入，计算更密集；进入解码阶段后，模型逐个生成token，瓶颈更多来自内存带宽。数据还要在芯片之间搬运，传输过程中，一部分计算单元只能等待。

Jalapeño的做法是把模型状态（包括生成时使用的KV缓存）尽量放在离计算更近的位置，减少搬运。网络也被算进整体架构里，让任务尽量在一个相互连接的系统内跑完。

它不是只针对某一个模型定制的芯片。OpenAI希望它能够覆盖不同规模、不同架构的推理负载，并在预填充和解码之间灵活分配计算、内存和网络资源。

SemiAnalysis创始人兼首席分析师迪伦·帕特尔（Dylan Patel）受邀前往OpenAI实验室查看芯片，并参与验证InferenceX的部分运行。他在报告中的评价很高：第一代自研芯片通常没有竞争力，但Jalapeño在他们目前能够测试的产品中，已经超过多款英伟达、AMD和谷歌芯片。

AI参与芯片

也在动摇CUDA的一部分护城河

Jalapeño的诞生速度，可能比它的运行速度更值得注意。

从设计到流片，只用了九个月；从团队组建算起，前后大约十六个月。对一支从零开始的芯片团队来说，这是很快的节奏。

AI在其中起了直接作用。OpenAI使用自己的模型探索实现方案、缩短验证循环，并帮助优化芯片中的算术电路。反过来，这颗芯片也被设计成更容易让AI参与编程的样子。

工程师使用OpenAI自研的编程语言Gluon编写内核。一段内核代码可能长达数千行，需要不断针对芯片结构手工调优。后来，OpenAI让内部Codex配合GPT-Astra参与这项工作。两个月内，团队把三个原本不在生产计划中的开放权重模型适配到了Jalapeño上。

在部分GPT-OSS注意力模块和混合专家模块中，AI生成的实现比原有的人类专家版本快1.5至1.8倍。OpenAI特意说明，这个数字只适用于选定模块，不能外推到整个模型。

这些数据仍然有限，但它指向了Jalapeño最反常识的地方：AI已经开始参与芯片本身的设计、验证和软件优化，而不只是被服务的对象。

这件事对CUDA的意义比对性能的意义更大。

过去，ASIC可以围绕特定负载获得漂亮的性能，但每增加一个新模型，团队都要重新编写内核、适配算子、维护编译器和调试工具。GPU贵，CUDA的价值恰恰在于把这些成本分摊给了一个庞大的开发者和软件生态。

Jalapeño展示了另一条路径：OpenAI不必先复制一整套CUDA生态，而是让AI参与编写和优化底层代码，降低新模型进入自研芯片的适配成本。

如果这种方法能够稳定扩展，CUDA面对的未必是另一个CUDA。过去需要大量工程师和多年生态积累解决的一部分适配工作，未来可能由模型自动生成、测试和优化代码来完成。

但现在还不能把这写成CUDA护城河已经失效。Jalapeño主要服务OpenAI自己的模型和负载，外部开发者还不能像使用CUDA一样，在这套平台上自由部署和维护应用。它说明OpenAI能在内部降低对CUDA的依赖，但还没说明OpenAI建起了一套面向市场的替代生态。

和英伟达的关系还没有翻篇

这组数据出来后，最微妙的仍然是OpenAI与英伟达的关系。

8月17日，英伟达刚刚宣布为SB Energy在俄亥俄州建设PORTS-Pike园区提供信用支持。据《金融时报》等媒体报道，相关支持上限可能达到1050亿美元。

但这不是英伟达直接向OpenAI发放贷款。SB Energy负责建设和运营园区，OpenAI签下20年租约；英伟达支持的是土地、电力、建筑以及部分剩余价值安排。作为交换，这座园区将独家采用英伟达计算平台。

一边是OpenAI继续依靠英伟达扩张算力，另一边是OpenAI拿出自己的推理芯片。两件事并不矛盾。

理查德·何对彭博社说："英伟达是非常好的合作伙伴，我们仍然需要大量的英伟达。"

Jalapeño只做推理，不覆盖训练。OpenAI也明确表示，未来还会大量用英伟达和其他厂商的加速器，训练和推理都用。

Jalapeño使用的HBM4，是目前半导体行业最紧缺的零部件之一。OpenAI与博通去年10月公布了一项10GW多代自研加速器合作计划，目标从2026年下半年开始部署，到2029年底完成。如果按计划扩大，OpenAI将成为HBM4市场上的重要买家。这里需要保留边界：10GW对应的是多代加速器和长期部署计划，不能全部换算成当前这一代Jalapeño的产量。

还有两个前提要放在一起看

除了第一节已经交代的Rubin对比和数据来源，还有两个前提。

测试使用的三个模型规模不小，却不是各家最新的开放模型。更新、更复杂的模型在Jalapeño上的适配速度和实际表现，还需要继续观察。

不同系统采用的推理优化方式也不完全一致。Jalapeño此次使用单token预测，英伟达部分公开生产数据则使用多token预测等优化。SemiAnalysis认为，如果统一配置，领先幅度可能发生变化；反过来，Jalapeño未来加入类似优化后，也可能继续提高性能。

把四个前提放在一起：OpenAI确实造出了一颗能运行、第一代就进入竞争区间的推理芯片；但它还没有证明，这颗芯片能够在量产、真实生产负载和更广泛模型上持续保住优势。

下一颗芯片

可能比这一颗更重要

OpenAI造这颗芯片的速度，可能比今天的性能排名更值得琢磨。

2024年年中立项，2025年11月流片，2026年8月交出第一组实测数据。前后不到两年。

萨姆·奥特曼（Sam Altman）在X上只发了一句话："我们造了一颗芯片，它很快。"

但OpenAI想加速的，可能不只是这一颗芯片。

第一代Jalapeño的设计过程中，AI已经参与探索电路和缩短验证周期；芯片回来后，Codex又开始为它编写内核、适配新模型。这些软件、测试和运行经验会继续进入第二代设计，而更快的芯片又能运行更强的模型。

模型帮助设计芯片，芯片让模型运行得更快，更快的模型再去参与下一代芯片的设计与编程。

如果这套循环能够跑起来，OpenAI和传统芯片公司比的就不再是某一代产品的参数，而是谁能更快跑完一轮迭代。这和英伟达"芯片—CUDA—开发者—更多芯片"的正反馈是两种不同的机制：前者靠模型能力递增，后者靠生态锁定。

Jalapeño第一代甚至还没有正式进入OpenAI的数据中心，第二代已经深入开发，第三代已经开始规划。

英伟达需要观察的，不只是今天这张性能图，还有OpenAI多久会交出下一张。