Token消耗年均增速4822.6%，Agent时代算力竞赛告别堆卡

文｜李薇

编辑｜宋辰

全球活跃智能体（Agent）的数量，将从2026年的7940万个增至2030年的22.16亿个，复合增长率将达到129.8%；同期全球Token（词元）消耗量的复合增长率达到44822.6%，约为活跃智能体数量增速的37倍。

9月21日，2026人工智能计算大会（AICC2026）上，IDC与浪潮信息联合发布的《2026年中国人工智能计算力发展评估报告》（以下简称《报告》），列出了一组极具冲击力的数字。

剥开数字表层，这份业内首个聚焦智能体基础设施的报告背后，整个AI产业底层逻辑正在发生位移，同时也抛出一个冷峻的产业现实：智能体带来乘数效应，引爆 Token 消耗，算力需求曲线被陡然拉高。

《报告》预计，全球AI算力需求满足率将由2024年的79%下降到2027年71%的谷底，2030年也仅能回升至77%，仍有23%的需求等不到供应，供需矛盾将长期存在，全球算力供需缺口进一步扩大。

摆在产业面前的现实是：算力短缺不再只是 “卡不够” 的表层问题，而是一场深刻的结构性错配。单纯采购服务器、堆叠加速卡的算力军备竞赛，已经走到临界点，智能体时代，算力竞争正从规模扩张，转向系统效率的比拼。

大咖科技

Tech Chic

缺的不是算力，

是有效算力

全球AI产业正从“能力验证”加速迈向“价值兑现”，智能体成为新的增长驱动力。IDC预测，到2031年，AI预计将累计创造22.5万亿美元的全球经济价值，规模远超此前任何一代通用技术。

风口之下，资本疯狂涌入算力赛道，一座座智算中心落地，机柜满载、加速卡批量进场。可当集群真正承接智能体持续循环推理任务时，吞吐不足、延迟抖动、KV Cache 溢出等问题层出不穷。纸面标称算力高，落到真实业务里产出却大打折扣。

这里藏着一个显著的变化：智能体爆发后，算力市场发生聚变。回望过去两年，行业讨论算力短缺，大多指向大模型训练阶段对高端芯片的渴求，但2026年，矛盾切换主战场——

算力不再只是集中在少数企业训练巨型模型，而是随着千千万万个智能体走进企业业务流程，持续不断执行多轮推理、工具调用、跨系统协作，推理算力的消耗呈指数级膨胀。

简单AI问答时代，一次交互仅消耗几十Token；而智能体要完成一份财报深度分析、一套软件代码开发、一条复杂业务流程闭环，单任务Token消耗直接拉升到数万甚至数十万级别。

因为智能体不是被动等待人类提问，它会自主拆解任务、调用工具、多轮反思纠错，每一步动作都在吞噬算力资源。需求端的爆炸，直接改写了中国智能算力的增长预期。

中国智能算力规模及预测，2020-2030年

《报告》预测，2026年中国智能算力规模将达2576.5 EFLOPS，同比大涨87.9%；到2030年突破10524.3 EFLOPS，2025~2030复合增长率由此前预测的46.2%上调至50.3%。对应的AI算力市场，2026年达到515亿美元，2030年攀升至1501亿美元。

不过，算力需求指数级增长的同时，供给端的追赶步履蹒跚。芯片、存储、服务器等关键基础设施扩张周期难以同步，叠加电力、能源供给约束，算力供需缺口持续拉大。

矛盾共同指向真相：算力紧缺不完全是硬件不够，更是有效算力不足。硬件堆叠解决不了系统层面的堵点。

大咖科技

Tech Chic

从比拼规模，

转向系统效率

很长一段时间，评判一家AI企业实力，最简单标尺就是“你手里有多少卡”，企业拼资本开支，拼采购规模，把算力等同于加速卡数量。智能体到来，这套评价体系正在失效。

智能体的负载特征和过去大模型训练完全不同。大模型训练任务追求短时间完成巨型模型迭代；智能体面对的则是海量并发、长短不一的上下文、频繁工具调用、反复规划推理，瓶颈不再单单是单芯片峰值算力，内存带宽、节点互联、调度缓存、软件栈的短板会被成倍放大。

这意味着，即便你拥有大量高性能芯片，如果系统协同跟不上，大量算力会在数据搬运、等待调度中白白消耗掉。

IDC副总裁周震刚提出一个关键判断：智能体时代，AI基础设施竞争，已经从“拥有多少算力”，转向“能够多高效地持续产出智能”。产业正在告别单纯规模扩张，进入系统效率竞争的新阶段。

《报告》将智能体时代的AI计算，概括为两个演进方向：一个是面向智能前沿的能力型智算（Capability AI Compute），不断提升单机可承载模型规模与智能水平，支撑智能上限突破；另一个是面向智能普及的容量型智算（Capacity AI Compute），提升计算效率和资源供给能力，让更多智能以更低成本触达更多用户，实现智能充分供给。两种路线定位解决不同的现实问题。

能力型智算，以超节点为代表的Scale-up架构通过扩大高速互联域、统一内存寻址，把大量计算单元整合成为一台逻辑上的超级计算机，用来支撑高难度、长上下文、复杂多智能体协同任务，去突破智能能力的上限，服务前沿技术研发、复杂科研任务。

容量型智算，依靠多元算力协同、推理解耦、缓存和调度优化，提升整体Token产出效率，降低单位Token成本，实现智能普惠，支撑智能应用从少量试用走向规模化服务。

这样的趋势意味着产业竞争的重心，从芯片单卡跑分，升级为整套系统能力比拼。同样一批芯片，不同互联架构、调度软件，最终能够输出的有效智能天差地别。

面向能力型智算和容量型智算两类的需求，计算系统需要以大模型和智能体负载为牵引，统筹算子、内存、互连与整机系统，从局部优化走向贯穿式系统创新。

另一个产业趋势是，Token运营成为新的核心命题，算力运营升级为“智能生产运营”。

过去算力运营，聚焦硬件资源分配；智能体时代，运营由“卖硬件”转向“卖服务”，Token成为连接算力投入和业务产出的计量单位。‌‌

智能体业务存在天然矛盾：追求高吞吐，就要扩大批处理，用户响应时延会拉长；追求低交互延迟，就要预留大量闲置资源，整体并发吞吐量会下降。两者不可兼得。

Token运营将不再追求吞吐量或者时延单一指标最大化，而是基于业务场景约束，动态调配模型、算力、调度策略，在交互性与吞吐量之间寻找最优平衡点，兼顾用户体验和资源利用率。

纵观全球，算力不再是简单售卖的IT资源。谷歌等科技巨头数千亿级资本开支，采购的重点已经不是孤立显卡，而是整套超节点系统；国内厂商也在加大互联、存储、调度软件投入。

无视系统效率，单纯堆出来的算力将无法转化为可稳定交付的Token服务，硬件资源就无法变成生产力。硬件采购只是起点，随着AI基础设施从规模扩张走向系统效率竞争，存储、高速互联、系统软件、调度平台等的价值权重将持续抬升。

大咖科技

Tech Chic

智能体规模化，

推动AI评估体系升级

智能体时代，AI竞争核心正在从单一硬件性能，转向计算、存储、互联与软件的系统协同效率。芯片性能再好，如果整个系统无法适配智能体任务负载特征，算力也难以充分转化为有效产出。

AICC2026大会上发布“可靠AI”测评体系，也正是瞄准这个痛点，跳出过去单一模型、芯片或局部性能评测，面向智能体应用带来的新能力、新场景和新要求，覆盖芯片、整机与互联、框架与系统、模型、数据、应用等全链路，全面测评可靠性、稳定性、安全性，涵盖场景构建、风险评估和能力优化，为产业选型、技术演进和行业应用提供可验证的评价参考。

工业和信息化部电子第五研究所联合产业链单位，

正式发布“可靠AI”测评体系

过去，AI能力评估更多关注模型参数规模、单项性能指标以及公开测试结果，但随着AI进入生产环境，产业对AI能力的评价维度正在进一步拓展，除关注模型本身的性能和能力外，也更加重视AI系统在真实业务场景中的稳定运行、安全保障以及持续交付业务价值的能力。尤其在智能体应用加速落地的背景下，AI系统是多环节协同的综合结果，单一技术指标的领先并不能直接代表复杂业务场景中的整体应用能力。

一套科学的AI能力评测体系，承担着重要的链接和催化作用，是提升市场透明度、增强产业信心的关键机制。未来，依托“可靠AI”测评体系，可为行业用户提供测试评估、适配验证、技术选型、咨询培训和应用上线评估等服务，助力企业建设可靠、安全、可用的AI解决方案，为AI规模化推广应用提供可靠依据。

结语

Token 大爆炸，带来的不只是算力扩容的压力，更是一场底层范式的切换。

过去几年，行业习惯了靠资本换硬件、靠堆叠换规模，但这套增长故事正在落幕。

未来算力赛道的赢家，不会是手里卡最多的玩家，而是能够驾驭复杂智能体负载，把硬件资源高效、稳定转化为 Token 供给的系统玩家。