大幅降低芯片设计成本，IBM带来了新方法

公众号记得加星标⭐️，第一时间看推送不会错过。

随着人工智能系统能力的不断提升，研究人员越来越关注一个实际问题：人工智能除了帮助编写计算系统的代码之外，还能做什么？具体来说，它能否积极参与复杂计算系统的设计，并快速将算法转化为芯片？人工智能驱动芯片设计领域的新研究表明，答案是肯定的。然而，一个前景广阔的算法仅仅是硬件设计的开始。要将其转化为高效的芯片，还需要探索如何组织计算、传输数据以及如何利用有限的硬件资源。每一个选择都会衍生出新的方案。而每一个方案的实现和评估都需要工程团队的投入。

AI代理可以扩展这种探索。通过协作，它们可以提出架构变更建议、编写实现代码、检查正确性，并利用综合结果来决定下一步的尝试方向。障碍在于成本：硬件设计的LLM代币经济模型以及设计空间探索的成本效益。一次搜索活动可能消耗数亿个代币，而将该方法应用于众多组件和设计修改可能需要数百次这样的搜索活动。

IBM 研究院的一项最新演示表明，开放前沿模型和高效的分布式推理能够改变计算方式。研究人员利用代理工厂优化量子纠错硬件，在高级综合估算中，推理成本约为 26 美元，速度比基准设计提升了 52 倍。在相同的搜索预算下，专有前沿模型配置的成本是完全使用开放前沿模型配置的 11.5 倍——分别为 299 美元和 26 美元。专有配置实现了更高的速度提升（204 倍），但开放模型配置则得出了不同的结果：在更小的推理预算下，可以实现显著的硬件优化，同时还能实现最小的面积设计。

这种成本优势为更广泛地应用自动化探索创造了机会，并将节省下来的资金再投资于寻找更好的设计。

研究结果还表明，人工智能辅助芯片设计的实际价值不仅取决于智能体能够生成的最佳设计，还取决于组织能够承担多少经过验证的探索成本。模型能力、智能体角色分配以及服务于这些模型的基础设施，都会影响在实际工程预算范围内能够实现的硬件改进。通过将开放前沿模型与llm-d的低成本分布式推理相结合，IBM已经证明，人工智能智能体工厂可以超越编码辅助，成为硬件设计的积极参与者，而且成本可控。

从生成代码到探索架构

硬件设计仍然是计算机领域最需要专业知识的活动之一。高级综合（HLS）将硬件设计语言中使用的寄存器传输级（RTL）抽象级别提升到 C 或 C++，但工程师仍然需要就循环结构、并行性、内存组织、数据流和综合指令做出无数决策。这些选择之间存在着复杂的相互作用。例如，只有当内存系统能够提供足够的输入时，同时执行更多计算才有意义。运行速度更快的设计也可能需要更多的硬件资源。找到一个合适的平衡点需要反复试验，而设计空间很快就会变得过于庞大，以至于人类无法穷尽所有探索。

“代理工厂”负责组织这项工作。IBM 院士兼 IBM 研究院首席科学家 Ruchir Puri 表示：“代理工厂将硬件优化转化为一个协调的探索循环：协调代理指导并行工作代理在定义的搜索预算内开发和综合替代设计方案。”

当这些智能体被分配任务后，它们会独立探索优化策略。“验证器会检查所提出的改进方案是否有效，并根据延迟和硬件资源使用情况对设计方案进行排名。这些结果将指导下一轮探索，使系统能够在发现更优设计方案的过程中不断优化搜索，”Puri补充道。系统并非只寻找单一解决方案，而是并行探索多种可能性，并利用综合反馈来指导未来的探索。

在这项新研究中，协调员规划了搜索过程，并将优化假设分配给四个并行工作代理。工作代理修改解码器实现，正确性检查和高级逻辑搜索（HLS）结果为后续轮次提供反馈。每个配置都获得了100个假设的预算。

这些代理探索了具有架构影响的变更。其中一项变更重组了消息存储，以便综合工具能够识别独立的内存访问并并行执行更多工作。另一项变更则用树状结构取代了顺序归约，从而展现了并行计算。其价值在于通过重复评估将代码变更与其硬件影响联系起来。

量子计算的核心在于经典的硬件挑战

这篇新论文探讨的关键问题是，能否利用开放前沿模型和分布式推理基础设施，以经济高效的方式扩展这种方法。为了验证这一想法，Puri 和他的团队使用 Relay-BP（一种量子纠错解码算法）对 [[144,12,12]] 二元自行车码进行了演示。

量子纠错依赖于经典计算。测量结果提供了有关影响量子信息的错误的线索，解码器必须解释这些线索并推断出纠错方法。在实际硬件资源限制范围内快速完成这一过程，是构建容错量子系统的关键所在。

Relay-BP 是一个有用的测试，因为它的重复消息传递本质上是并行的，但基线实现的稀疏图表示和内存访问模式使得 HLS 工具难以利用这种并行性。

这也使得解码器成为对人工智能驱动的硬件探索的一项艰巨考验，因为智能体必须在改变硬件执行计算的方式的同时保持计算的完整性。

同样的搜索预算能买到什么

研究人员在相同的100个假设预算下比较了三种配置：一种是专有的前沿模型，它既是协调器又是工作节点；一种是开放的前沿模型，它也是协调器和工作节点；还有一种是混合配置，即专有模型作为协调器，开放模型作为工作节点。开放模型通过llm-d在本地运行。

三种方案均发现了经过验证的硬件改进，但它们各自带来了不同的权衡。开放式和混合式搜索找到了实用的紧凑型设计，而专有配置则更有效地将额外资源转化为并行处理能力和更低的延迟。每种配置均在一次搜索运行中进行了评估，因此这些结果描述的是观察到的搜索情况，而不是建立一个通用的模型排名。

全开放搜索也使用了更多令牌：约 2.41 亿个，而全专有搜索则使用了 2.16 亿个。其成本更低源于令牌服务的经济效益。这种差异对于代理工厂至关重要，因为每个假设都可能涉及多轮推理、编码、调试和工具结果解释。

为什么推理基础设施至关重要

代理工厂会反复返回大量相同的信息：源代码、设计约束、早期更改和合成报告。高效的服务可以重用与这些共享上下文相关的计算。

该研究使用了开源分布式推理框架llm-d来支持这项工作负载。其缓存感知路由功能可将请求定向到持有可重用上下文的服务器。此外，它还将提示处理与令牌生成分离，使系统能够独立地为两者分配资源。这些功能有助于减少重复工作并高效利用加速器容量。

随着企业寻求控制不断上涨的推理成本并保持对其敏感数据的控制，这项最新的演示表明，通过 llm-d 的分布式推理堆栈在本地部署的开放权重模型可以大幅降低服务成本，同时还能发现有价值的硬件优化。

对于芯片设计工作负载，该论文报告称前缀缓存命中率约为 98%，综合服务成本约为每百万个令牌 0.11 美元。该部署方案在共享基础设施上为工厂和其他代理工作负载提供服务。开放权重还允许团队在本地运行模型，并保留对这些代理处理的设计工件的控制权。

因此，成本优势体现了开放模式和高效服务体系的结合。这两者都有助于降低持续勘探的成本。

下一步：将低成本转化为更好的设计

降低推理成本可以为额外的搜索腾出空间，但增加投入并不会自动带来成比例的改进。将全开放搜索活动从 100 个假设扩展到 200 个假设，速度提升从 52 倍提高到 60 倍。虽然提升仍在继续，但幅度有所减小。

下一步是改进代理工厂对额外预算的利用方式。未来的工作将探索资源的自适应分配、更广泛的架构假设，以及针对复杂转换或搜索协调选择性地使用更强大的模型。目标是谨慎地权衡成本与质量：决定在哪些情况下，额外的推理、不同的模型或新的架构方向最有可能改进设计。

评估还需要考虑综合和验证成本以及推理成本。降低工作流程中某个环节的成本，只有在整个流程能够支持由此带来的额外探索时，才能发挥最大的价值。

芯片设计中的人工智能将两种进步形式连接起来，形成一种互惠关系：更强大的硬件能够驱动更强大的人工智能，而更强大的人工智能又能帮助工程师开发出更优秀的硬件。经济高效的智能体工厂使这种关系更加切实可行。通过降低每次搜索的成本，开放模型和分布式推理为测试更多想法创造了空间，并借助更优的搜索策略，将这些机会转化为更出色的芯片。

（来源：编译自IBM）

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第4560期内容，欢迎关注。

加星标⭐️第一时间看推送~

求推荐