英特尔前CEO：HBM，太糟糕了

公众号记得加星标⭐️，第一时间看推送不会错过。

英特尔前CEO再次抨击HBM内存架构存在缺陷，尽管他承认这是“我们目前能得到的最佳方案”。与此同时，由于HBM产能持续增长而DRAM产能下降，南亚半导体重申DRAM短缺将持续到2028年初。

继7月份称HBM是“糟糕的”解决方案之后，英特尔前CEO帕特·盖尔辛格近日再次加倍抨击HBM。

英特尔前任掌门人在接受 a16Z 的专访时，对高带宽内存 (HBM) 解决方案提出了严厉批评，并指出：

“HBM内存简直糟糕透了。这已经是我们能找到的最好的了……它真的太差劲了。你知道，它的位密度非常低。带宽受限，功耗、散热等等问题也让我很头疼。DRAM内存不喜欢高温。所有数据都集中在一个地方……对于人工智能这种内存计算密集型工作负载来说，HBM内存简直是灾难性的。”

为了那些可能不了解的人，PHY（物理层接口）——GPU/ASIC 核心逻辑与 HBM 堆栈之间的物理转换器——是海岸线带宽问题的主要驱动因素，这基本上是由计算芯片的有限周长（或“海岸线”）造成的物理和架构瓶颈。

HBM 是一种“宽而慢”的架构，需要大量的并行连接。例如，HBM3/3E 的总线宽度为 1024 位，而 HBM4 的总线宽度则提升至 2048 位。因此，单个 HBM 接口拥有大量的物理连接/引脚（微凸点）也就不足为奇了，而 PHY 芯片则包含了每个引脚的驱动器、接收器和路由逻辑。

因此，PHY 芯片占据了计算芯片边缘（即“海岸线”）一块巨大且坚硬的矩形硅片。正是这块硅片限制了芯片旁可放置的 HBM 堆叠数量。此外，计算芯片通常只能分配两个边缘用于 HBM，其余两个边缘通常用于系统 I/O，这进一步加剧了海岸线带宽不足的问题。

如果说上述限制还不够，那么PHY芯片自身产生的热热点会显著降低HBM的效率。例如，根据韩国科学技术院（KAIST）的热分析，在内存利用率较低时，GPU核心是主要的发热源；但一旦HBM的功耗超过约30瓦，HBM PHY芯片自身产生的热量就会成为内存热应力的主要来源。

最后，考虑到 HBM 堆叠中的各个 DRAM 芯片必须通过大量的硅通孔 (TSV) 连接，从而减少了单个芯片上可以放置的存储单元数量，因此每个 DRAM 芯片的位密度要低得多，即使整个堆叠累积起来每平方毫米的密度更高。

请注意，Pat Gelsinger 早在 7 月份就对 HBM 发表了类似的贬损性言论，当时他在 RAISE 峰会上指出，HBM 是一部“糟糕的”记忆法：

“我们都听说过HBM，也就是高带宽内存。HBM是一种很糟糕的内存。我知道我的内存专家朋友们马上就要上台发言了，说他们的产品丑陋可能不是结交朋友和影响他人的最佳方式。但它确实是一种很糟糕的内存。”

与此同时，我们已经知道，HBM 芯片消耗的晶圆数量大约是同等尺寸普通 DRAM 芯片的三倍。这导致普通 DRAM 芯片长期供应短缺，而南亚半导体在最近的财报电话会议上也指出，人工智能正在给整个存储领域带来结构性变革，由此造成的DRAM 芯片短缺可能会持续到 2028 年初。

初创公司，打造HBM“替代品”

随着AI模型规模持续扩大，存储器正在成为制约AI芯片性能、能耗与扩展能力的重要因素。围绕高带宽存储器（HBM）和静态随机存取存储器（SRAM）的技术瓶颈，一家美国初创公司正试图寻找新的解决方案。

据EE Times Japan 10月13日报道，美国初创公司Kepler Computing计划于2027年启动新型存储器的生产。该公司表示，通过结合自主3D集成技术与铁电存储器技术，其产品相较HBM的单位功耗带宽有望提升至5至10倍，另一类产品的容量则有望达到传统SRAM的至少10倍。

Kepler希望借此突破现有存储器架构的限制，并与GlobalFoundries（格罗方德）等产业伙伴合作，推动相关技术走向规模化制造。不过，上述性能指标目前主要来自公司方面的披露，最终表现仍有待产品落地验证。

AI算力增长，存储器的能耗瓶颈日益突出

在AI数据中心中，GPU承担主要计算任务，HBM则为其提供高带宽数据供给。随着大模型参数规模、上下文长度以及计算负载持续增加，处理器与存储器之间的数据传输压力不断上升。

问题不仅在于带宽够不够，还在于获取数据需要消耗多少能源。随着数据传输规模扩大，存储器的设计与制造成本、系统能耗和散热压力也随之增加，进一步抬高AI基础设施的建设和运营成本。

Kepler首席执行官Debo Olaosebikan在接受EE Times采访时表示，AI数据中心消耗的大量能源用于GPU与HBM之间的数据传输。该公司认为，继续沿用现有存储器架构，可能越来越难以同时满足带宽、容量和能效方面的需求。

对于HBM而言，堆叠更多存储芯片、提升数据传输能力是一条重要的技术路线，但更高的集成密度也会带来散热与制造方面的挑战。与此同时，SRAM虽然具备低延迟等优势，但其存储单元面积较大，进一步提高容量和密度同样面临限制。

Kepler试图从存储器器件、集成架构和制造工艺三个层面寻找突破口，而不是单纯依靠传统晶体管持续微缩。

3D单片集成与铁电技术，试图绕开传统微缩路径

据报道，Kepler成立于2018年，总部位于美国加利福尼亚州圣何塞。该公司的技术路线结合了3D单片集成和铁电存储器技术，希望在提高存储密度的同时，降低对先进光刻工艺的依赖。

Kepler首席执行官Olaosebikan介绍，公司开发的技术可以在控制热问题的前提下，将不同器件单片集成在半导体芯片内部。其思路是使用现有晶体管作为基础，在晶体管上方进一步集成其他器件，从而提升单位面积内的功能密度，而不是完全依赖缩小晶体管尺寸。

这一路线与传统的二维微缩有所不同。过去，先进芯片性能提升的重要途径之一是持续缩小晶体管尺寸，但随着工艺不断推进，制造复杂度、设备投入和成本都在上升。Kepler希望通过垂直方向的器件集成，提高既有晶体管的利用效率。

公司首席技术官Sasi Manipatruni表示，这种方法有望将存储密度提升至原来的2至3倍，同时保持与CMOS工艺的兼容性。

在制造方面，Kepler称，其技术路线有望减少对极紫外光刻（EUV）的依赖。公司表示，基础晶体管层可以采用EUV工艺制造，但上层器件的集成不必完全依靠进一步缩小晶体管尺寸。

这并不意味着先进光刻工艺将被彻底取代，而是意味着在特定架构下，部分密度提升有机会通过器件集成实现，从而为制造成本和工艺选择提供新的空间。

此外，铁电材料也是Kepler技术路线的重要组成部分。公司称，其团队过去约七年一直在探索相关材料，并对材料成分、梯度和电极等因素进行了大量试验。不过，Kepler并未披露其铁电存储器的具体材料配方和详细技术参数。

两类新型存储器，分别瞄准HBM和SRAM

Kepler并非只开发一种存储器，而是计划推出两类产品，分别面向HBM和SRAM所处的应用领域。

根据公司披露，其中一类产品可视为HBM的替代方案，重点在于提升带宽与能效；另一类则瞄准SRAM，希望在保留相关应用价值的同时，显著提高存储容量。

Kepler表示，其存储器相较SRAM，容量有望达到至少10倍；与HBM相比，单位功耗带宽则有望提升至5至10倍。

需要注意的是，容量提升与带宽提升是不同的指标，不能简单理解为所有产品都能同时实现相同幅度的性能改善。公司也尚未公布足以全面评估其产品的完整规格，包括具体容量、绝对带宽、延迟、功耗、成本以及不同工作负载下的表现。

对于AI芯片而言，存储器的价值不仅取决于理论带宽，还取决于实际访问延迟、数据传输效率、封装集成方式和软件适配等因素。因此，Kepler能否形成真正的竞争优势，还需要结合具体系统进行验证。

在HBM替代产品的实现上，Kepler将采用自主开发的3D封装技术。公司联合创始人Rajeev Dokania表示，3D集成通常会引入额外的热管理挑战，而公司希望通过自身的架构设计，将热方面的额外开销控制在较低水平，从而以较低能耗实现高带宽。

如果相关技术能够达到预期，其意义不仅在于提高存储器自身的能效，还可能为AI加速器的存储架构提供新的设计选择。

联手格罗方德，向2027年量产推进

从技术研发走向规模化制造，是Kepler接下来需要跨越的关键一步。

报道称，Kepler已经与格罗方德展开合作，并为扩大3D集成和铁电存储器的生产规模建设了自己的小型晶圆厂。

Kepler的设想是，在客户现有晶圆厂附近建设小规模自有工厂，以相对较低的投资实现先进器件集成。公司认为，与新建一座最先进制程晶圆厂相比，这种模式所需投资可能只有后者的十分之一。

这一模式的核心，是通过工艺与器件架构创新降低对传统先进制程投资的依赖，并借助产业合作推进制造。报道还提到，英特尔资本是Kepler的投资方之一。英特尔资本董事总经理Srini Ananth认为，公司已经发展到可以与产业伙伴协同推进规模化制造的阶段。

Ananth还指出，如果能够利用晶圆厂后端工艺（BEOL）实现超出传统工艺节点预期的集成密度，就有机会进一步推动芯片技术的发展。

不过，具体产能、良率、制造成本以及与现有存储器供应链的衔接情况，仍是这项技术走向商业化过程中需要观察的关键因素。

Kepler称，2027年的生产能力已经全部分配完毕，客户涉及AI数据中心和制造业领域，但公司没有披露除格罗方德以外的客户及合作伙伴名称。除了存储器产品，该公司还计划在长期布局中开发逻辑芯片。

HBM之外，AI存储架构是否迎来新选择？

从行业角度来看，Kepler的尝试反映出AI存储器技术正在探索更多可能性。

随着AI算力需求不断增长，单纯依靠增加HBM堆叠层数或持续推进晶体管微缩，未必能够独立解决带宽、容量、功耗和散热之间的全部矛盾。通过3D集成、存储器件创新以及制造流程调整，寻找新的性能提升路径，正在成为值得关注的方向。

但新型存储器要真正进入AI计算系统，还需要证明其在实际工作负载中的性能、能效、可靠性和成本优势，并解决量产良率、封装兼容性以及生态适配等问题。

对于Kepler而言，2027年将是一个重要节点。公司已经给出了量产计划和颇具吸引力的性能目标，但这些目标能否转化为稳定的产品能力，仍需要后续量产进展和实际应用结果来回答。

HBM在AI基础设施中的地位不会仅凭一家初创公司的技术宣示就发生改变。不过，如果Kepler能够兑现其承诺，AI芯片在存储架构上的选择或许将进一步拓宽。

（来源：内容来自半导体行业观察综合）

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第4559期内容，欢迎关注。

加星标⭐️第一时间看推送~

求推荐