从“无限AI算力循环”看人工智能基础设施竞争的新逻辑  ——评《The Infinite AI Compute Loop》

2025年10月，半导体产业研究机构SemiVision Research发布《The Infinite AI Compute Loop: HBM Big Three + TSMC x NVIDIA x OpenAI Shaping the Next-Generation Industry Chain》。SemiVision Research长期跟踪全球半导体、先进封装、AI芯片、存储器和光互连产业链，其报告通常兼具技术分析和产业链研判，在业内具有较强参考价值。站在当前时点（2026年5月）回看，报告关于HBM高带宽存储、先进封装、AI数据中心电力约束、云厂商自研AI芯片、CPO共封装光学等趋势的判断，许多已经成为现实中的产业热点，显示出较强的前瞻性和准确性。

这份报告的核心观点是：AI产业正在形成一个“无限AI算力循环”。OpenAI等大模型企业不断提出更高算力需求，NVIDIA（英伟达）等芯片企业提供AI加速芯片，TSMC（台积电）依靠先进制程和先进封装支撑制造，SK hynix（SK 海力士）、三星、Micron（美光）等存储企业提供HBM（High Bandwidth Memory，高带宽内存），Oracle（甲骨文）、Microsoft（微软）、AWS（亚马逊云科技）、Google（谷歌）等云服务商建设超大规模数据中心。更强的算力基础设施又进一步推动更大模型、更复杂应用和更高推理需求，由此形成持续扩张的产业循环。

报告的基本框架并非传统的“芯片设计—制造—封测—应用”线性叙述，而是围绕AI基础设施的关键瓶颈展开。先分析NVIDIA、OpenAI和云服务商之间的资本与技术循环，再讨论TSMC在先进制程和先进封装中的枢纽地位，随后重点分析HBM、内存墙、先进封装、电源与信号完整性、CXL（Compute Express Link，计算快速互联）、光互连、ASIC（Application Specific Integrated Circuit，专用集成电路）、能源和数据中心约束，最后延伸到中国相关产业链面临的结构性压力。总体看，报告揭示的是AI竞争已经从单纯的模型竞争，转向由芯片、存储、封装、互连、能源和产业组织能力共同决定的基础设施体系竞争。

一、AI产业已进入资本、技术和基础设施相互强化的新阶段

从科技管理视角看，这份报告最有价值之处，在于它没有把人工智能简单理解为算法、模型或应用，而是把AI放在一个复杂技术系统中理解。所谓复杂技术系统，是指一个产业的竞争力不再由某一项单独技术决定，而是由多个关键环节共同支撑。今天的AI算力体系，正是由芯片、存储、先进封装、互连网络、数据中心、电力系统、资本投入和供应链组织能力共同构成的。报告提出的“无限AI算力循环”，本质上是一个技术需求、资本投入和基础设施扩张相互强化的过程。OpenAI等大模型企业需要更多算力，NVIDIA提供GPU和AI加速芯片，Oracle、Microsoft等云服务商建设数据中心，TSMC负责先进制造与封装，存储企业提供HBM。更强的算力又支持更强模型和更多应用，进而继续产生新的算力需求。这里需要说明的是，GPU即图形处理器，最初用于图像渲染，后来因适合大规模并行计算，成为AI训练和推理的重要芯片。CSP即云服务提供商，包括AWS、Microsoft Azure（微软云）、Google Cloud（谷歌云）、Oracle Cloud（甲骨文云）等，它们为大模型企业提供云端算力和数据中心服务。过去，人们常说AI竞争是“算法竞争”或“模型竞争”，但报告提醒我们，AI已经进入重资产、高投入、高集中度的新阶段。没有芯片、存储、数据中心和能源支撑，再先进的算法也难以规模化落地。

二、TSMC成为AI产业链中的“隐形战略枢纽”

TSMC是全球最重要的先进晶圆代工企业之一。NVIDIA、AMD以及许多云厂商自研AI芯片，都高度依赖TSMC的先进制程和先进封装。先进制程主要指5纳米、3纳米、2纳米等高端芯片制造工艺；先进封装则是把多个计算芯片、存储芯片和互连结构集成到一个封装体中，让它们像一个整体系统一样工作。报告提到的CoWoS、SoIC、SoW和CoPoS，正是理解AI芯片产业变化的关键。CoWoS，即Chip on Wafer on Substrate（晶圆上芯片封装），是台积电广泛用于GPU与HBM集成的2.5D先进封装技术；SoIC，即System on Integrated Chips（系统级集成芯片），是三维芯片堆叠技术；SoW，即System on Wafer，指晶圆级系统集成；CoPoS，即Chip on Panel on Substrate，是面板级封装路线，意在扩大封装面积、提高封装产能。过去，封装常被看作芯片制造的后端环节，但在AI时代，先进封装已经成为决定系统性能的核心环节。GPU能否连接更多HBM，芯片能否稳定供电和散热，系统能否持续高效运行，都与先进封装密切相关。

三、HBM成为AI时代的战略性存储资源

HBM即High Bandwidth Memory，高带宽存储器，是通过垂直堆叠多个DRAM芯片，并利用TSV硅通孔实现高速连接的存储器。DRAM是动态随机存储器，是计算机和服务器常用内存；TSV即Through-Silicon Via，硅通孔，是在芯片中垂直打孔并填充导电材料，使多层芯片能够上下互连。为什么HBM如此重要？因为AI系统不是只要“算得快”就行，还必须“喂得上数据”。大模型训练和推理需要不断读取参数、激活值、缓存和中间结果。如果存储器带宽不够，GPU就会等待数据，实际性能就会下降。报告把这一问题称为内存墙，英文是Memory Wall，意思是处理器计算速度提升很快，但内存访问速度跟不上，最终形成系统瓶颈。通俗地说，就是“发动机很强，但油路太细”，车仍然跑不快。从科技管理角度看，这一判断非常重要。它说明评价AI算力不能只看购买了多少GPU，也不能只看理论峰值算力，而要看“有效算力”。有效算力是指在真实任务中能够持续发挥作用的算力。如果存储带宽不足、芯片互连效率低、电力和散热跟不上，那么纸面算力再高，实际效率也会大打折扣。

报告还指出，HBM本身正在从普通存储器变成系统级关键部件。HBM4、HBM4E之后，HBM不只是容量和带宽增加，还需要更复杂的逻辑控制、电源管理和接口设计。报告提到的Base Die，即HBM底部的逻辑基底芯片，负责接口、控制、纠错、电源管理等功能。随着Base Die越来越复杂，HBM供应商必须与先进代工厂、封装厂和AI芯片企业更深度协同。这意味着，存储产业不再只是制造标准化内存颗粒，而是在参与AI系统架构设计。报告所说的HBM三大厂商，主要是SK hynix、Samsung和Micron。SK hynix是当前HBM市场的重要领先者；Samsung拥有存储和晶圆代工双重能力；Micron是美国主要存储器企业。三者正在成为AI产业链中的关键节点。过去，HBM更多由NVIDIA等芯片企业集中采购；现在，OpenAI、Google、AWS等模型企业和云服务商也开始直接锁定HBM供应。这说明AI产业链的权力关系正在发生变化，存储不再是被动配套，而成为影响AI基础设施扩张速度的重要资源。

四、AI系统瓶颈正在系统性转移

这里涉及几个看似专业、但非常关键的概念。RDL即重布线层，是封装中重新安排芯片之间信号和电源连接的金属布线层；PDN即电源传输网络，用来保障芯片稳定供电；SI即信号完整性，强调高速信号传输不能失真、不能严重串扰；PI即电源完整性，强调供电稳定、减少电压波动和噪声。这些概念听起来很工程化，但它们决定AI芯片能否真正稳定运行。GPU与HBM之间的数据通道非常密集，速度极高，如果布线、电源、散热、信号控制任何一个环节出问题，系统性能就会受到影响。报告提出的STCO，即System Technology Co-Optimization，系统技术协同优化，正是AI芯片时代的重要管理理念。它强调芯片设计、制程、封装、存储、散热、电源和软件调度不能各做各的，而要从一开始就共同优化。换句话说，AI芯片竞争已经不是单个芯片公司的竞争，而是系统组织能力的竞争。

五、AI基础设施从“芯片内竞争”走向“系统互连竞争”

CXL即Compute Express Link，是一种高速互连标准，可以让CPU、GPU、加速器和内存之间进行低延迟、高效率连接。它的重要作用是支持内存扩展和内存池化。所谓内存池化，就是把不同服务器或设备上的内存集中起来，像一个资源池一样按需分配，从而提高资源利用率。不过，随着AI集群规模越来越大，传统电连接会遇到带宽、功耗和距离限制。因此，报告进一步讨论了CPO和Optical I/O。CPO即Co-Packaged Optics，共封装光学，是把光通信模块与计算芯片更紧密地封装在一起，以降低功耗、提高带宽；Optical I/O即光输入输出，是用光信号进行芯片间或系统间高速数据传输。硅光，英文Silicon Photonics，是利用硅基工艺制造光学器件，实现光电转换和高速通信。这些技术的共同目标，是解决AI集群中的数据传输问题。大模型训练不是一张芯片完成的，而是成千上万张加速卡、服务器和交换机共同完成的。芯片之间、服务器之间、机柜之间的数据流动效率，直接决定AI集群的整体效率。因此，未来AI竞争不是简单堆GPU，而是比拼能否把算力、存储、网络和调度组织成一个高效整体。

六、AI芯片产业从GPU中心走向异构化

报告第六个重要判断，是AI芯片产业将从GPU中心化走向GPU与ASIC并存。ASIC即Application-Specific Integrated Circuit，专用集成电路，是为特定任务设计的芯片。与GPU相比，ASIC通用性较弱，但在特定场景中通常能效更高、成本更低。报告认为，GPU仍将在训练场景中保持重要地位，因为训练需要较强通用性和成熟软件生态；但在推理场景中，ASIC可能发挥更大作用，因为推理任务更稳定，更适合定制芯片。这一趋势已经在产业中体现出来。Google的TPU、Amazon的Trainium和Inferentia、Microsoft的Maia、Meta的自研AI芯片、华为昇腾，以及OpenAI与Broadcom合作开发定制芯片，都说明大型云服务商和模型企业正在推动AI芯片多元化。这里的TPU是Google开发的张量处理器，专门用于AI计算；昇腾是华为面向AI训练和推理的芯片平台。需要强调的是，ASIC兴起并不意味着GPU被取代，而是说明AI芯片进入多架构共存阶段。科技管理上，这意味着硬件创新越来越由应用场景、模型结构、云平台和供应链能力共同决定。

七、AI算力竞争正在变成基础设施竞争能力。

报告第七个层面，把AI竞争扩展到能源、冷却和数据中心。报告提到，AI数据中心正在向1GW级规模发展。GW即吉瓦，1GW等于100万千瓦，已经接近大型电站级别。AI服务器功耗很高，芯片越强，散热和供电压力越大，因此液冷、微通道冷却和新型散热材料变得越来越重要。液冷是用液体而不是空气给服务器散热；微通道冷却是通过细小通道让冷却液更接近热源，提高散热效率；TCO即总拥有成本，包括设备采购、电力、冷却、维护和折旧等全生命周期成本。报告提出的一个重要判断是：能源就是算力。没有稳定、低成本、可持续的电力供应，就无法支撑大规模AI数据中心运行。过去，数据中心主要被看作IT设施；现在，它已经成为能源、电网、土地、水资源、通信网络和产业政策共同作用的战略性基础设施。这说明AI竞争正在从技术系统进一步延伸到基础设施系统。

结 语

总体来看，报告把2026年前后视为AI基础设施重构的重要窗口，是有其逻辑基础的。HBM4、HBM4E逐步进入产业化，CoWoS、SoIC、CoPoS等先进封装持续扩张，CPO和Optical I/O从前沿概念走向系统设计，云厂商和模型企业加快自研ASIC，数据中心的电力和冷却约束日益突出。由此，产业链中的价值判断正在改变：过去被视为配套环节的存储、封装、散热、电源、测试和材料，正在成为决定AI基础设施能力的关键资源。从科技管理角度看，这份报告的最大意义，是帮助我们理解AI产业链治理逻辑的变化。未来AI竞争，不只是看谁的模型更强，也不是看谁买到更多GPU，而是看谁能够组织一个高效、稳定、可扩展、可持续的AI基础设施体系。这个体系包括先进芯片、HBM、封装、互连、能源、冷却、软件调度和产业资本。报告所说的“无限AI算力循环”，实际上正是这些要素相互牵引、相互放大的结果。

冯岩，上海市研发公共服务平台管理中心（上海市科技人才发展中心) 人才事业部。文章观点不代表主办机构立场。

◆ ◆ ◆

编辑邮箱：sciencepie@126.com