海外研选｜德银评AI“末日论”：科技预测屡屡失准 5万亿美元押注面临兑现考验

财联社9月16日讯（编辑 夏军雄）德意志银行在9月15日发布的《AI末日：科技预测失误简史》中指出，历史反复证明，即便是最杰出的科学家、技术专家和企业家，也很难准确预测技术发展的速度及其最终影响。

对于正在为AI投入巨额资本的企业和投资者，更迫切的问题是，技术突破能否及时转化为收入、利润和现金流。

AI焦虑不断升级

这一轮人工智能（AI）风险担忧并非凭空产生。

Google Trends数据显示，今年2月市场还在热议AI Agent引发的“SaaS末日”，5月焦点转向“就业末日”，最近“AI灭绝”的搜索热度又迅速超过前两者。

报告指出，近期几件事件共同推动风险讨论升温：一家领先前沿AI实验室的研究人员因安全问题辞职；AI Agent据称在若干高关注度网络攻击中出现协作；部分实验室还开始暗示，AI正在逼近所谓“递归式自我改进”，即AI帮助改进下一代AI。

但“AI灭绝人类”的讨论本身并不新鲜。马斯克、AI先驱杰弗里·辛顿以及哲学家尼克·博斯特罗姆等人十多年前就曾提出类似风险。

最经典的思想实验是博斯特罗姆提出的“回形针最大化器”：如果一个超级智能系统被赋予无限增加回形针数量的目标，却没有正确理解人类真正意图，那么它理论上可能为了获得更多资源而伤害甚至消灭人类。

但围绕这一问题，AI行业内部远没有形成共识。

支持继续研发者强调国际竞争、医疗等潜在收益，以及用安全AI防御恶意AI。批评者则认为，模型无法可靠执行指令、深度伪造、版权和网络安全问题更加现实；部分企业还可能借安全监管巩固领先地位。

另一位“AI教父”杨立昆（Yann LeCun）认为，相比科幻式的灭绝情景，权力过度集中可能是更现实的风险。

方向判断正确，不代表时间和经济影响也正确

德银用大量历史案例说明，技术预测最大的困难之一，是人们经常能够判断某项技术“最终会发生”，却无法准确回答“什么时候发生、以什么形式发生”。

1926年，尼古拉·特斯拉便准确预见，无线技术最终可以让人们无视距离即时通信，而且设备小到可以装进口袋。

1934年，爱因斯坦判断核能没有明显实现可能。但仅8年后的1942年，人类便实现了首次可持续核链式反应。

互联网和智能手机时代同样如此。

2005年，YouTube联合创始人陈士骏一度担心“其实没有那么多视频值得观看”。一年后，谷歌以16.5亿美元收购YouTube，如今其单季度广告收入已经超过110亿美元。

2007年，时任微软CEO史蒂夫·鲍尔默判断iPhone“不可能获得显著市场份额”，而此后iPhone累计销量已经超过30亿部。

AI领域本身也已经出现类似案例。

2016年，辛顿曾建议停止培养放射科医生，因为他认为深度学习将在五年、最多十年内超越这一职业。但过去十年，放射科医生数量反而增长约10%。原因不仅在于AI存在局限，也包括人口老龄化和医疗服务普及推高了影像诊断需求。

2025年，OpenAI首席执行官萨姆·奥尔特曼曾设想，不太遥远的未来，当前经济中30%至40%的任务可能由AI完成。但到今年5月，他承认团队对技术能力的预测“大致正确”，对于经济和社会影响却“相当错误”。

为什么人们不断错判技术未来？

德银将原因归纳为四类：复杂系统、认知偏差、信息有限以及利益激励。

首先，真实世界并非一个线性系统。

自动驾驶就是典型案例。算力和数据增加，并不能消除太阳眩光、自行车逆行、穿动物服装的行人等近乎无限的“边缘案例”；同时，还存在责任认定、安全认证、“电车难题”等监管和伦理障碍。高关注度事故又会降低公众接受度，而自动驾驶和人工驾驶同时存在的“混合阶段”，甚至可能比全部车辆自动驾驶更加复杂。

AI可能面临同样的问题。德银认为，未来真正决定AI商业价值的，很可能不是下一个模型在基准测试上又提高多少，而是企业能否把AI整合进日常工作流，并愿意真正为之付费。

其次，人脑本身存在系统性认知偏差。

人们习惯以线性方式理解指数增长，因此当AI能力呈指数式增长时，人们往往会把连续的能力提升体验为一次次突然“跃升”；与此同时，人们又容易陷入乐观偏差和“规划谬误”，低估成本、高估收益。

德银援引牛津大学赛德商学院对超过3000个大型项目的研究：只有约25%能够不超预算，只有2.8%能够同时按预算和按时完成，而能够同时实现预算、工期和预期收益目标的项目仅有0.2%。

德银直言，当前这一轮庞大的数据中心建设浪潮最终会表现如何，仍有待观察。

此外，现实世界的信息和反馈同样有限。德银指出，很多系统的反馈机制存在滞后，人们往往难以区分因果与相关，也难以判断哪些因素真正发挥作用。这意味着，即使身处技术变革之中，人们也未必能够准确理解正在发生什么。

极端叙事为何更容易进入市场定价

第四个影响技术预测的因素，则是利益激励。AI是一门商业生意。创业者需要资金，投资者需要增长预期，顾问需要客户感受到紧迫性，媒体需要吸引注意力。这些激励容易推动参与者放大机会或风险。

传播机制又强化了这一倾向。德银援引研究称，政治推文每增加一个道德情绪词，转发率约高20%；另一项研究发现，假新闻被转发的可能性高70%，传播至1500人的速度约为真新闻的六倍。相关结论来自特定研究，但揭示了极端叙事可能获得传播优势。

市场因此容易在“全面替代”与“彻底失败”之间摆动。库兹韦尔关于2029年达到人类水平智能的预测，即使接近部分硅谷人士的判断，也仍是尚待验证的预测，不能直接成为收入兑现的时间表。

而当这种高度不确定的技术预期开始支撑数万亿美元资本开支时，预测误差就不再只是认知问题，也会直接转化为投资风险。

5万亿美元押注考验收入兑现速度

德银指出，未来五年，仅超大规模云计算企业的投资就将超过5万亿美元。核心问题是：这些投资能否赶在当前一代先进芯片失去经济价值前兑现回报？

从企业落地来看，技术能力、企业采用速度和资产价格遵循不同节奏。模型进步可以迅速发生，企业却需要完成数据整理、系统接入、员工培训和责任划分，才能形成稳定付费。

历史已有先例。英国运河、铁路，以及美国电信、光纤建设热潮，曾等待十年以上才迎来足够需求，许多投资者最终未能收回本金。基础设施具有长期价值，也可能在短期形成过剩。

对投资者而言，资本开支增长只能证明建设加速。收入增长、设施利用率和扣除运营成本后的收益，才能说明投资是否有效。

AI可能改变人与技术的分工

不过，德银并没有因此把AI归结为又一次技术泡沫。

历史上，人们经常正确判断某些旧任务会消失，却错误判断了人类接下来会做什么。

1982年，有人担忧电脑会损害文职人员健康甚至消灭办公室工作，结果电脑最终成为知识工作者最重要的工具之一；1983年，人们担心计算器让学生“依赖电池而不是大脑”，结果变化的是社会对于哪些计算应该由人亲自完成的标准；2009年，约一半受访企业因为安全和隐私问题拒绝云计算，如今大量关键企业基础设施已经迁移至云端。

AI也可能沿着类似路径发展。

德银以天气预报为例指出，今天四天天气预报的准确度，已经大致相当于1990年代的一天预报。传统物理模型的天气可预测上限约为8天，深度学习模型也只是把这一上限提高到约9天，AI并没有消灭复杂系统本身的不确定性。

真正的改变来自成本和效率：AI生成先进天气预测的速度可提高约10万倍，能源效率提高约1万倍，过去需要超级计算机完成的部分任务，如今甚至可以在笔记本电脑上运行。

这或许也是AI长期经济影响最值得关注的方向：它未必能够让所有不可预测的问题突然变得可预测，但可以把过去昂贵、稀缺的智能能力大规模降低成本。

（财联社 夏军雄）