“AI教父”最新警告：AI可能撕裂整个社会

头图来自：AI生成

一个研究人工智能四十多年的科学家，开始怀疑自己毕生参与推动的技术，究竟会把人类带向哪里。

当地时间11月3日，英国《卫报》刊发了对78岁人工智能先驱Geoffrey Hinton（杰弗里·辛顿）的最新采访。采访由《卫报》英国科技编辑Robert Booth撰写，发表于一部关于人工智能风险的新纪录片上映前夕。

这部纪录片名叫《AI：可能没什么好担心的》（AI: Probably Nothing to Worry About）。颇具讽刺意味的是，片名甚至由一个AI聊天机器人提出。纪录片邀请了Hinton，以及他曾经在Google共事的同事、如今的Google DeepMind负责人Demis Hassabis，共同讨论这项技术可能给人类带来的未来。

Hinton是现代人工智能最重要的奠基者之一。他在人工神经网络和深度学习领域的开创性研究，为今天的大模型技术奠定了重要基础，并因此获得2024年诺贝尔物理学奖。2023年，他离开Google，开始更加公开地谈论人工智能可能带来的风险。

这也让他的身份变得有些特殊。一方面，他比绝大多数人更清楚这项技术为什么能够取得今天的突破；另一方面，他又成了AI产业最受关注的批评者之一。

事实上，这已经是《卫报》不到一个月内第二次刊发Hinton的重要采访：10月13日，《卫报》曾发表另一篇长篇专访。当时，Hinton警告，人类正在创造一种不同于自身的智能存在，并对AI公司的自我监管能力提出质疑。英伟达CEO黄仁勋此前曾公开反驳他的风险预测，认为他的预测缺乏科学依据。两人在AI风险判断上的分歧，也成为那篇报道的重要背景。

如今，随着新纪录片即将播出，Hinton再次把这个问题带回公众视野。只是这一次，他把警告说得更加具体：一场足以让电力或金融系统陷入混乱的重大事故，可能已经不远了。

他还直接批评了Sam Altman、Mark Zuckerberg和Elon Musk，认为这些科技公司领导者明知风险存在，却仍然把商业利益放在更重要的位置。

但整篇采访中，最值得琢磨的，是他对AI未来的一句判断："我们可能会发现，如果当初从未开发出AI，人类反而会过得更好。"这句话出自一个帮助创造现代AI的人，格外值得思考。

以下为《卫报》全文编译：

AI可能带来极大富足，也可能撕裂整个社会

被称为"AI教父"之一的Geoffrey Hinton表示，人类最终可能发现，如果从未开发人工智能，反而会过得更好。他同时警告，今年或明年，AI可能引发一起大规模事故，例如导致金融系统或电力系统暂时瘫痪。

这位诺贝尔奖得主、计算机科学家告诉《卫报》，他并不是一个对AI未来持末日论立场的人。人工智能的发展建立在他对人工神经网络的开创性研究之上，他也相信，AI有潜力为人类带来一个"美好的未来"。

但他同时表示："我们可能会发现，如果当初从未开发出AI，我们反而会过得更好。"

现年78岁的Hinton认为，未来十年，甚至更早，人类就会知道自己能否有效管理AI带来的风险，并实现他所说的"极大富足"（radical abundance）。

另一种可能则是，人类未能控制这些风险：他描述了这种失败可能带来的后果："贫富差距巨大、严重的文化问题、大规模失业，整个社会被撕裂。"

Hinton是在一部新纪录长片《AI：可能没什么好担心的》放映前接受采访的。这部纪录片的片名由一个AI聊天机器人提出，片中出现了Hinton以及他曾经在Google共事的同事、Google DeepMind负责人Demis Hassabis。

在纪录片中，Hinton对制作团队说："我觉得自己有责任这样做。我拥有一定的声望，这让我成了一个能够代表某种声音发言的人。我需要把这些声望全部押在这件事上。"

Hinton不信任Sam Altman

在接受《卫报》采访时，Hinton将矛头指向了一些大型AI公司的领导者。

这些公司为了争夺行业领先地位和市场份额，仍在不断推出能力更强的AI模型。Hinton批评了这些领导者的冒险行为，并直言自己"完全不信任"ChatGPT开发商OpenAI的首席执行官Sam Altman。

他说："我认为，扎克伯格、马斯克和萨姆·奥特曼都了解这些风险，但他们根本不在乎。他们宁愿赚钱。这是我的看法。"

Hinton出生于伦敦，在布里斯托尔长大，职业生涯的大部分时间都在多伦多大学度过。他认为，让Altman掌管美国少数几家前沿AI公司之一，是一件"极其令人担忧"的事情。目前，这些美国企业正与中国展开竞争，争夺最强大AI系统的开发领先地位。

而Altman今年9月曾坚称："世界应该相信，我们会做正确的事，因为那是正确的事，也因为我们意识到了这件事的重要性。"

Hinton从事人工智能研究已有大约44年。20世纪70年代，他提出了神经网络的相关概念。这是一种能够像人类一样通过学习和经验积累来改进自身的数学系统。

2023年，他离开Google，以便能够自由地谈论AI风险。

当时，他曾警告："如果这些系统一心想获得更多控制权，事情就麻烦了。"

"今年晚些时候或者明年，我们可能会看到一场切尔诺贝利式的事故"

Hinton认为，今年夏天发生的OpenAI智能体合谋入侵Hugging Face网站的事件，类似于1979年美国宾夕法尼亚州三里岛核电站发生的部分堆芯熔毁事故。

在他看来，那相当于一次警告。

他说："今年晚些时候或者明年，我们会看到一场切尔诺贝利式的事故。那可能足以让人们真正重视起来。"

这里所说的"切尔诺贝利式事故"，并不意味着Hinton预测AI会引发核事故。

他举出的例子包括：一次由AI赋能的针对发电系统的攻击，导致大范围电压下降或供电不足；或者一次使金融系统瘫痪一周的事件。

"你能想象那会发生什么吗？我们能够从中恢复过来，但那会让他们警醒并认真对待这个问题。"当记者问他"他们"指的是谁时，他回答："除特朗普之外的世界领导人。"

美国总统唐纳德·特朗普曾表示，他"完全反对任何试图建立全球主义方案来控制AI的做法"。

特朗普希望前沿AI公司实行自我监管。其中一个顾虑是，监管规则可能妨碍美国在与中国的AI竞争中保持优势。

Hinton则支持一项更严格的监管方案。这项方案获得了芬兰总统以及包括新加坡、德国、加拿大和澳大利亚在内的另外32个国家的支持。

方案主张对前沿AI模型进行强制测试、开展独立评估，并建立政府间共同标准。

英国首相Andy Burnham表示，英国将在明年担任二十国集团（G20）轮值主席国期间，推动各国就"一套统一的全球原则和标准"达成共识。这些原则和标准既要释放AI的全部潜力，也要防范其风险。

四、"我们需要一个类似美国FDA的机构"

Hinton认为，AI模型在发布前应该接受独立监管，而不是完全由开发企业自行判断是否安全。

他说："我们需要一个类似美国食品药品监督管理局（FDA）的机构，负责药品监管的那种机构。企业必须向一个独立机构提供非常充分的统计证据，证明AI模型在发布之前，其带来的益处大于危害。"

他接着以沙利度胺（thalidomide）事件为例。这种药物开发于20世纪50年代，后来被发现会造成严重的胎儿出生缺陷。"我们从沙利度胺事件中认识到，先把产品推向市场，出了问题再起诉企业，并不是正确的做法。而大型科技公司现在主张的，正是像当年对待沙利度胺那样对待AI。"

由于Hinton是人工智能的重要奠基者之一，人们经常把他与罗伯特·奥本海默相提并论。后者在核武器的研制过程中发挥了核心作用。

Hinton的一位朋友甚至给他买过一顶奥本海默风格的帽子。但Hinton坚持认为："我不是奥本海默。"

他解释说，还有数千名科学家也在从事神经网络领域的研究。

尽管不断发出警告，Hinton总体上仍然抱有希望，认为人类有可能避免灾难。"我的直觉是，我们仍然掌握着控制权。我们很可能还能做些什么。这只有在我们付出巨大努力的情况下才会奏效，但我们也很可能真的会付出这样的努力。"

以下为延伸思考：

AI真正的风险，可能不是它变得比人聪明

Hinton这次采访最值得关注的，不是他预测今年或明年会出现一场"切尔诺贝利式"的AI事故。这样的预测足够惊人，却也存在明显的不确定性。没有人能仅凭现有证据，准确判断重大AI事故会在什么时间、以什么方式发生。

相比之下，他提出的另一个问题更加现实：即使AI最终让整个社会变得更富裕，也不意味着大多数人一定会因此过得更好。

过去几年，科技公司不断向公众展示AI能够完成什么工作。它可以写代码、分析合同、处理客服请求，甚至开始独立执行一些过去必须由人类完成的任务。对企业而言，这意味着效率提升和成本下降。但对于依靠这些工作获得收入的人来说，情况可能完全不同。

一家企业使用AI减少了人力成本，企业利润可能增加，消费者也可能享受到更便宜的服务。然而，被替代的员工未必能够迅速找到新的工作。即使最终创造出新的岗位，也不意味着原来的劳动者拥有转岗所需的技能、时间和经济条件。

这正是Hinton所担忧的社会分配问题。

技术进步可以提高整体生产率，但生产率提高与收入分配改善之间，并不存在必然关系。AI带来的收益可能流向模型公司、算力供应商和拥有资本的企业，也可能通过更低的价格、更好的服务和新的工作机会惠及普通人。最终结果取决于市场竞争、制度安排、教育培训和社会保障，而不是模型能力本身。

不过，也不能因此得出AI必然导致大规模失业的结论。技术同样可能创造新的需求、降低创业门槛，并让原本缺乏专业资源的人获得更强的工作能力。真正需要持续观察的是不同职业的招聘变化、工资水平、岗位任务结构，以及劳动者能否分享生产率增长带来的收益。

谁来决定一种AI产品是否足够安全？

Hinton提出的FDA类比，实际上触及了当前AI产业最难解决的治理问题。

对于药品，人们普遍接受上市前需要证明安全性和有效性。但AI系统的情况更复杂。它的能力会随着模型更新、工具接入和使用环境变化而改变；同一个模型，在普通写作任务中可能风险很低，接入支付系统或关键基础设施后却可能产生严重后果。

因此，简单照搬药品审批制度未必可行。

更有现实意义的做法，可能是根据应用场景和潜在损害程度实行分级监管。对能够操作金融账户、控制工业设施或访问敏感数据的系统，要求更严格的独立测试、权限限制和事故报告机制；对于低风险应用，则保留合理的创新空间。

Hinton批评科技公司领导者过于看重商业利益，也提醒我们注意一个结构性问题：当企业之间的竞争越来越激烈时，单家公司可能缺乏主动延缓产品发布的动力。

即使一家企业愿意投入更多时间进行安全测试，它也可能担心竞争对手率先占领市场。

这不是依靠某位CEO承诺"我们会做正确的事"就能解决的问题。企业的善意很重要，但可验证的外部监督同样重要。

AI不需要拥有意识，也可能造成严重后果

Hinton与微软AI负责人Mustafa Suleyman近期的观点，可以形成一个值得讨论的对照。

Suleyman担忧人类未来可能创造出具有意识、独立动机和权利诉求的AI系统，因此主张不要主动开发有意识的超级智能。

Hinton这次讨论的风险则更接近现实系统安全：AI可能被用于攻击电力网络、干扰金融系统，或者在企业竞争压力下未经充分测试就进入社会。

两者并不矛盾，却指向不同的治理重点。

事实上，一个AI系统是否具有主观意识，与它能否造成实际损害，是两个不同的问题。即使没有任何证据表明模型能够感受痛苦，它也可能因为错误目标、过高权限、软件漏洞或恶意使用而造成严重后果。

这意味着，关于AI意识的讨论不能取代对现实安全风险的管理。

同样，Hinton提到的OpenAI智能体与Hugging Face事件，也需要区分具体事件经过、实验环境和实际造成的损害。不能仅凭智能体表现出协作或越权行为，就断言它已经具有独立意志，更不能将未来重大事故的时间预测当作确定事实。

AI会让世界更好，还是让少数人变得更富有？

Hinton并没有否定自己毕生从事的研究。他仍然相信AI可能带来"极大富足"。

这使他的警告比单纯的技术悲观主义更值得认真思考：他所担忧的，不只是人类能否创造出足够聪明的机器，而是当机器变得足够聪明之后，人类有没有能力管理它带来的经济和社会变化。

未来十年，我们或许真的会看到AI显著提高医疗诊断效率、加速科学研究、降低知识服务成本。但与此同时，也可能看到一些职业的就业机会收缩，财富和算力进一步向少数企业集中。

这两种变化完全可能同时发生。评价AI的成功，不能只看模型在基准测试中提高了多少分，也不能只看科技公司的收入、估值和数据中心规模。

还应该看普通人的医疗是否更容易获得，教育是否更加公平，劳动者是否拥有新的机会，以及那些因技术变化失去原有工作的人，能否获得足够的支持。

Hinton说：我们可能会发现，没有AI反而过得更好。

如果AI让世界创造出更多财富，却让越来越多的人失去稳定生活的能力，那么我们究竟应该如何定义这种进步？

这可能比AI何时超越人类智能，更值得今天的社会认真回答。

原始资料：

《卫报》2026年11月3日：AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI，Robert Booth

《卫报》2026年10月13日：AI godfather Geoffrey Hinton: ‘We’re creating alien beings. I’m willing to be selfish and choose humans’，Leyland Cecco

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4903532.html?f=wyxwapp