赫拉利：AI竞赛已近疯狂

本文来源：新浪财经

本账号接受投稿，投稿邮箱：jingjixuejiaquan@126.com

赫拉利：AI竞赛已近疯狂

2026远见高峰会在10月14日开幕，会中邀请耶路撒冷希伯来大学历史系教授尤瓦尔·诺亚·赫拉利（Yuval Noah Harari），以“AI与人类的未来”为题发表视频专题演说。他聚焦AI崛起下的人类未来，从“失去控制”的风险谈起，延伸至金融、战争与地缘政治、AI军备竞赛。赫拉利并警告，当AI比人类更厉害，人类可能逐步失去理解世界与做决策的能力。

赫拉利的著作被翻译为65国语言，销售达5500万册，是当代最具全球影响力的公共知识分子之一。

他的演讲聚焦人工智能（AI）崛起下的人类未来，从“失去控制”的风险谈起，延伸至金融、战争与地缘政治、AI军备竞赛。赫拉利提醒，真正值得警惕的，或许不只是AI取代或超越人类，而是当AI比人类更厉害后，人类可能将退化到五岁的智商，失去理解世界与做决策的能力。

AI愈强大，人类恐愈失去理解世界的能力

《远见》记者询问赫拉利，当今世界面临的最大风险是什么？他非常明快地回答：AI的崛起。他预测，AI很可能在几年内、最多十年，就变得比人类更聪明，但人们却不知道这将带来什么后果。

真正令人担忧的是，AI力量快速增强的同时，“人类却无法彼此信任与合作，共同负责任地因应这个过渡过程。”赫拉利警告，这对人类构成的根本威胁，“就是失控的风险：失去对世界的控制，失去对未来的控制。”

赫拉利举金融体系为例，即使到了今天，绝大多数人仍不了解债券、股票、利率、央行决策构成的复杂金融体系。然而，目前仍有政府、央行、金融市场人士能理解并掌控它。问题是，当AI开始创造出远超人类理解能力的全新金融工具及体系，十年后，“无论是央行或者全球最富有的人，可能都没有人再真正理解金融体系。”

他举例，AI一旦深入金融、经济、媒体甚至政治体系，将影响资金流向、就业、物价，甚至战争，而人类却可能无法理解背后的运作逻辑，他认为这是最令人忧心的未来：人类逐渐失去理解与预测这个世界的能力。

让赫拉利担心的是，“我们失去理解世界的能力，而且不只是个人，而是整个社会都失去这种能力。”政府、大学、企业等制度，都可能再也无法理解世界正发生的事，因为未来的世界，可能由远比人类更聪明、更快速的超级智慧AI所主导。

发展不能只求快，更要为错误预留空间

那么人类应该停止AI发展吗？赫拉利并不主张停止AI发展，甚至明确指出AI具有巨大正面潜力，例如能改善医疗、交通，甚至协助人类因应气候变迁。因此，真正的问题不在停止发展，而在于应该如何发展AI。

他主张以更负责任、更渐进的方式推动发展，因为任何系统都可能出错。因此，从设计之初就必须假设错误一定会发生，“我们必须在系统中建立韧性，如此一来，一旦发生错误，我们才有足够的时间、足够的能力，找出这个错误。”

赫拉利用马斯克（Elon Musk）创办SpaceX的经验，说明这个道理。SpaceX早期火箭发射曾失败，前两次都在发射时爆炸，团队检视并修正，再进行下一次尝试，直到第三枚火箭才成功升空。然而，赫拉利提醒，火箭爆炸，可以重新设计下一枚，但“当你打造可能接管世界的超智慧AI文明，就必须比打造一枚火箭还谨慎。”

AI竞赛难停，因为没人敢相信竞争对手

赫拉利警告，地缘政治不稳定带来的最大问题是，“人类无法彼此信任合作，共同确保AI安全发展，AI发展会陷入一种竞赛的心态。”他指出，各方都知道高速发展很危险，却不敢率先减速，因为一旦自己放慢脚步，对手持续加速，自己就可能输掉竞赛。结果彼此愈不信任，AI发展反而愈快，“这就是AI竞赛近乎疯狂的地方。”

他说，他每次碰到全球大型AI企业高管时，通常他会问两个问题：一是，为何不能放慢脚步，投入更多资源确保安全？根据统计，每投资100美元在AI模型开发，只会投资一美元在AI安全上，比例实在太低了。但他得到的答案几乎一致：因为无法信任竞争对手，自己只能继续加速。

赫拉利问的第二个问题是：“你们能信任自己正在开发的超级智慧AI吗？”这些刚刚才说无法信任其他人类的人，却认为可以信任超级智慧AI。赫拉利指出，我们已知AI可能说谎、欺骗、操纵，而人类彼此不信任，却选择相信一个比自己更聪明、也缺乏相处经验的存在？大家都在创造AI神，却以为神会乖乖当人类的奴隶，“这太疯狂了。”

赫拉利指出，更令人忧心的是，AI领域的顶尖人物其实深知风险，包括马斯克、OpenAI CEO 奥特曼（Sam Altman）等人，都曾公开警告AI可能对人类造成巨大威胁，甚至毁灭人类。然而，即使知道危险，他们仍难以停下脚步。

AI成政治议题，人类仍有时间选择未来

赫拉利认为，虽然目前AI的发展方向出了问题，“但现在还不算太晚。”他指出，一个值得注意的正面讯号是，“AI首次成为重要的政治议题。”以美国即将举行的期中选举为例，愈来愈多地方候选人开始被问到对AI的立场，以及准备如何因应AI带来的问题。赫拉利认为，当AI成为重大公共议题，正是政治发挥作用的时候。

赫拉利表示，他会持续谈论AI，“就是让人们了解正在发生的事……，更清楚我们正面临哪些选择。”他认为，关于人类与AI未来的各种预测，“都只是一种可能，并不是早已注定，我们仍有时间做出选择。”

赫拉利表示，他的目的不是替科技企业家做决定，而是让更多人参与决策，“但要做出决定，你需要具备知识；如果不了解目前局势，就无法做出合理的决策。”他最后强调，唯有让更多人理解局势，“更多人参与讨论，并且在更多人的帮助下，我们可以做出更明智的决定。”■

扫描二维码参加线上研讨会