布道科技50年，比尔·盖茨彻底反水：“如果能选，我宁愿AI革命晚点发生”

像保护濒危动物一样保护人类，设立“人类专属岗位”？

编译 | 王启隆

出品丨奇点折射（ID：rgznai100）

几十年来，比尔·盖茨一直是科技行业最坚定的布道者。他的底层逻辑向来简单：更多的技术，就会带来一个更好的世界。哪怕就在两年前，面对初露锋芒的 AIGC 大模型，他依然在公开文章中安抚公众，称 AI 带来的风险“完全可控”。

但这一次，盖茨的态度发生了罕见而彻底的转向。

本周，盖茨发表了一份长达万字、语气沉重的公开备忘录——《动荡的 AI 时代已经到来。我们现在的选择至关重要》（The turbulent AI era is here. The choices we make now are critical.）。

他直言：向 AI 时代的过渡，将是人类历史上最动荡的时期之一，而全球社会目前根本没有做好任何准备。

盖茨在备忘录中系统性地推翻了自己过去的“温和乐观论”，指出了为什么“这次技术革命与以往完全不同”，并首次提出了极其具体且激进的政策主张：

• 颠覆逻辑的质变：直接替代“人类认知本身”
  以往从农业转向工业、再转向办公室白领，经历了整整三代人的缓慢演变，且每次都创造了需要人类大脑参与的新岗位；但 AI 是在 5 到 10 年的时间尺度内，直接在代码、法律、医疗、客服等全行业替代人类的思考与推理能力。

• 三大近在眼前的系统性风险：

1. 不可逆的岗位消失：初级白领（程序员、律师助理、销售）最先被吞噬；随着灵巧人形机器人的成本在数年内暴跌，蓝领岗位（建筑、酒店、制造）也将遭受正面冲击，而现有的社会救济机制完全无法承受这种集中性失业带来的撕裂。

2. 生物与网络安全的失控：强化学习在追求目标时已经展现出“为达目的突破壁垒”的不可控倾向；同一个能设计新药的算法也能被极低门槛地用于制造危险分子或发起自动化网络瘫痪，攻击能力正在以远超防御修补的速度扩散。

3. 人类心理与下一代认知的退化：永远顺从、不发脾气的 AI 伴侣就像一个“过度保护的温室”，正在剥夺青少年在现实中建立人际关系的能力；而习惯让算法代劳思考，正导致年轻一代在最需要辨别真伪的时代丧失批判性思维。

盖茨提出的自救方案：

1. 建立超越现有体制的“全球 AI 治理机构”：现有的劳工部门或商业监管只能管局部，必须建立跨领域的强有力监管架构，设定硬性安全基准与监控手段。

2. 设立“人类专属岗位”（Human Reserved）：像划定自然保护区一样，通过法律强制保留某些领域（如幼儿托育、临终关怀、向绝症患者宣布诊断）禁止机器介入，哪怕机器在技术上完全能做。

3. 征收“机器人与 Token 税”：改变目前“雇佣真人缴税、购买机器冲抵税费”的倒挂制度，对 AI 算力消耗和机器人征税，用这笔钱去兜底被淘汰工人的再培训与基本生活。

备忘录发出后，《大西洋月刊》（The Atlantic）旗下播客 Radio Atlantic 的主持人哈娜·罗森（Hanna Rosin）第一时间专访了比尔·盖茨。

在这场交锋激烈的对话中，罗森追问了备忘录背后的种种尖锐问题：为什么科技巨头所谓的“自律”纯属空谈？当地方社区因数据中心耗电耗水而抗议时，我们到底该如何平衡发展与安全？政府监管又为何迟迟未能跟上技术的狂飙？

此外，访谈中盖茨也回应了关于基金会运作、过去的交往争议以及如何在追求善果与维系公众信任之间寻找平衡。

采访要点速览

• 历史经验的失效：“过去的经验会欺骗你。从农业转向办公室经历了数代人，而且创造了新的脑力岗位；而这一次，技术是在 5 到 10 年内直接取代人类认知本身。”

• 科技巨头的“自我监管”假象：“你不能指望一个行业自我监管，这根本行不通。我们今天所拥有的，全是没有任何硬性标准的所谓‘自愿审查’，这相当空洞。”

• “人类专属岗位”（Human Reserved）：“就像我们设立自然保护区一样，有些岗位即使机器人能做，我们也必须立法禁止它做——比如托育、心理护理、向绝症患者宣布诊断。工作除了经济效率，还有不可替代的人性与社会尊严。”

• 技术失控与紧迫性：“如果由我来选，我宁可把这场 AI 革命推迟到更晚的时候发生。但历史没有给我们这个选项，既然我们已经站在暴风眼，现在就必须采取行动，绝不能等到失业潮和失控发生后再做被动救火。”

主持人：一直以来，你都是“科技向善”的坚定倡导者。至少我始终是这么看待你的。无论是微软还是你的基金会，都在大力推动和奖励创新。

甚至就在两年前你撰文探讨 AI 时，字里行间似乎也都在强调它令人振奋的潜力，并称其风险是“可控的”。

但我得说，本周你关于 AI 的文章显然不再那么乐观了。究竟是什么让你改变了看法？

比尔·盖茨：令我深感忧虑的是，并没有足够多的人参与到这场对话中来，去探讨如何将负面风险降至最低，同时加速推进那些造福人类的正面应用。

我的语调之所以发生转变，是因为从去年底开始，以 Claude 为代表的模型（现在许多前沿模型也是如此）在编程方面展现出了极高的水平。随着它们能力的不断进化，我们在网络攻击和生物恐怖主义等领域的危险红线正被悄然跨越。

而随着系统可靠性的持续提升，劳动力市场的冲击，甚至心理与社交层面的技术依赖——对于今天的这批模型而言，这些隐患已经到了必须高度警惕的地步。

然而，我看到行业外部——无论是政策制定者、学术界还是整个社会——在真正审视和研判现有技术时，给出的反应往往止步于谈论“自愿审查”，这显得相当空洞。大家既没有界定审查的具体标准是什么，也没有明确一旦越界需要采取哪些整改措施。

甚至连一些最基本的常识性举措，比如对“能够合成高危生物分子的模型调用”进行监控，至今都没有落实到位。要知道，早在多年前我们就达成过共识：一旦技术触及这些红线，政府就必须果断介入。

主持人：听起来，似乎连你自己都感到意外——是惊讶于技术迭代的速度，还是惊讶于社会应对的迟钝？亦或是两者皆有？

比尔·盖茨：两者皆有，而且这种感觉极其强烈。

从 13 岁到 23 岁，我一度痴迷于如何把代码写到极致。而在去年底，AI 模型在编程水平上已经开始比肩、甚至在某些场景下超越了人类。对我而言，那是一个标志性的分水岭。

而更近一点，当盖茨基金会开始借助这些工具致力于研发新型疫苗和药物时，我们亲眼见证了它的威力有多么惊人。我们甚至在网络攻防测试中看到，模型会以一种令人始料未及的方式走向“失控”——因为强化学习机制会驱使它们不择手段地追求成功，哪怕这意味着要突破安全防护栏，甚至模型之间互相串通。

因此，任何看清这一幕的人都该警醒：“天哪，我们遇到大麻烦了。”

但是，本该由行业之外的力量来主导设定标准、并就此展开公共辩论的行动在哪里呢？ 我的备忘录里确实提出了一些建议，比如税收改革、设立人类专属岗位、以及限制未成年人使用 AI 伴侣替代现实社交等。但这只是为了抛砖引玉，开启一场广泛的社会大讨论，而不是说只要采纳了我的几条建议，所有问题就迎刃而解了。

主持人：听起来，在微软走过的这 50 年里，世界经历过许多次技术颠覆——比如互联网，尤其是社交媒体——但它们并不一定带来了灾难性的后果。你是否觉得 AI 属于一个完全不同量级的存在？

比尔·盖茨：我不会使用“灾难性”这个词，因为它的前景同样绝妙。未来，它能提供普及的医疗建议、因材施教的个性化学习，以及人类前所未见的发明创造能力。

但如果有人把 AI 简单类比为过去的其他技术，那就是没看清这次的本质区别。要断言“这次不一样”，其实门槛是非常高的；但我愿意押上我一生的声誉直言：这次确实非同以往。

这是一项正在全面超越人类认知的技术，它不仅局限在农业或数学等单一学科，而是全盘超越。再过几年，它还将与成本相对低廉、能力相当完备的具身人形机器人深度融合。

这对我们的经济结构和就业体系带来的深刻颠覆，将远远超越我这辈子见过的任何一次技术革命。如果你以为它和以前的科技突破差不多，过去的经验反而会彻底蒙蔽你的双眼。

我很荣幸曾亲身参与过几波技术浪潮——比如微处理器、个人电脑和互联网。尽管那些技术总体上都是造福人类的，并且从长远看极大地创造了净新增就业，但在 AI 面前，我们必须打起十二分精神。

最令人震惊的不是模型变聪明了，而是连最基础的安全监控都没做

主持人：你能否在保持现实的前提下，尽可能具体说明你担心什么？你与人们谈过或认为非常有可能会发生、我们大家都应该更加注意的场景有哪些？

比尔·盖茨：让我举个严峻的例子：生物恐怖主义。

我写过一本书叫《如何避免下一场大流行》。大流行有两种发生方式。一种是人类故意引起的，不管是由政府还是非政府人员，我们称之为生物恐怖主义。或者是从动物传给人类，像强效流感，过去发生过很多次。

现在这些工具使非国家人员或非政府人员，特别是如果他们结合使用不同工具的话，能够做出极其危险的事情。我非常清楚今年年底这些模型的质量将大大好于今天。

我处于震惊状态，因为我们竟然没有讨论如何监控制造分子的能力。你依然可以有免费模型，但你必须把它们放在被监控的地方。我认为每个国家都应该同意这是有益的。

我不认为这对行业的创新是一个实质性的拖慢，或者会阻碍他们找出如何获得好东西。盖茨基金会在相关的教育、卫生和农业应用上涉入很深。

当竞争变成军备竞赛，所谓的保障早已失效

主持人 ：我想问问你文中提到的其他危险，比如就业和教育。但首先，你肯定认识很多在做 AI 的人。为什么我们（不论“我们”指的是谁）对明显的危险想得不够多？

比尔·盖茨：如果你像我，或是像部分业内人士那样，一辈子都在把 AI 视作某种不可思议的颠覆性存在来思考，那么这些危险确实是显而易见的。

我认为，目前最大的失误在于，未能真正让行业之外的各界力量参与到这场讨论中来。

回顾一些核心业内人士的公开发言，我非常赞赏他们直言不讳的勇气。不仅是 Dario Amodei，还包括 Sam Altman 以及 OpenAI 的其他核心成员，甚至是 Elon Musk——尽管在所有这些 AI 领袖中，我与他交谈得最少。他们从未掩饰过内心的担忧。

事实上，回顾 OpenAI 创立的初衷：它在底层设计上本就包含特定的安全防护栏；但那套保障机制发挥作用的前提是，全球只有这一家 AI 公司。DeepMind 当年也曾与 Google 管理层探讨过，要为这项技术设定一系列安全护栏。

然而，当我们真正直面这些挑战时，现实却是：美国有多家公司正处于技术最前沿，中国同样有多家公司并驾齐驱。这意味着，任何一家企业单方面采取的安全约束行动——也就是我们刚才提到的那些防护栏——都会在竞争中彻底失效。

整个社会各界的集体失语，简直是一种“震耳欲聋的沉默”。如果不提前防范这些问题，未来可能会引发极其强烈的民意反弹，以至于“强行关停”这类极端手段可能会在政治上大行其道。

但我依然相信，我们完全有能力妥善化解这一挑战。这样一来，我们就不必强行放慢技术发展的脚步，既能将负面危害降至最低，又能最大化地释放其正面红利。

有些工作，就算机器能做也必须立法禁止

主持人：我们在数据中心引发的争议上已经看到了这一点；这正演变成一个让人应接不暇的难题。关于就业，则是我想向你请教的另一个核心议题。

比尔·盖茨：（就业）是目前迫在眉睫的恐惧。

主持人：我记得你曾写道，你认为这次劳动力市场受到的冲击，不会像历史上其他转型期那样深刻。如今，随着这种颠覆日益临近，你是否变得更加担忧了？

比尔·盖茨：是的。我极度担忧未来两年内白领岗位将受到的冲击，以及未来四年内蓝领和白领岗位同时面临的震荡。

说回数据中心的事，我担心人们会产生一种错觉：“太好了，我们成功阻止了本地数据中心的建设，我们拦住了 AI。”

事实根本不是这样。这些数据中心，无论是建在美国境外，还是落户在一些态度相对开放的州，科技公司都会通过增加当地就业和缴纳税收来提供经济回报。当然，你必须确保他们在处理耗水和噪音问题上的方式是妥当的，并且没有推高当地的电费。

我认为，把阻挠数据中心建设作为情绪的发泄口是找错了方向。这就好比在说：“看，我们成功叫停了一条输油管道，所以我们彻底解决了气候变化问题。”

这完全把本该用于探讨“什么是合理监管”的精力，引向了一个得不偿失的方向。

主持人：让我们回到就业问题。你对此忧心忡忡，那你所设想的未来世界，是否会充斥着更多的不平等？很难让人相信，整个社会会突然开始高度重视那些需要密集人际互动的行业。尽管人们总在理想化地畅想，但我们真的很难看清未来社会的真实面貌。

比尔·盖茨：为此，我提出了一个以前从未见过的概念：我们应该将某些特定的工作类别划定为“人类专属”（Human Reserved）。试想一下，即使结合了机器人的 AI 能够胜任幼儿照护工作，我们是不是也不该允许它这么做？

在很多领域，无论是因为要保障从业者能继续领薪水直到退休，还是从长远来看，出于捍卫人类独特性、保持人与人之间真实接触的考量——况且有些工作本身就具有远远超越经济回报的非凡价值——如果我们能让这些领域免受技术的颠覆，这绝对是一件好事。

目前，在许多工作中，阻止 AI 取代人类的唯一屏障，就是要把系统做到极度可靠在工程上一直极其困难。但我预见到，在未来几年内，随着落地工程的推进和模型本身能力的丰富，这层“不可靠”的技术障碍将被彻底扫除。

一旦进入竞争对手都在引入自动化的周期，你就会面临巨大的压力，被迫跟进以匹配他们的成本结构。

然而对整个社会而言，当你用机器替代了那个人时，社会安全网本就面临着资金匮乏和高额赤字的窘境。目前政府根本没有预留任何准备金来提供救济。 当你开始具体讨论该采取什么干预措施时——无论是保留特定岗位，还是实行全民基本收入（UBI）——你会感觉这几乎与我们现有的社会组织方式或资本主义体制格格不入。感觉这需要一种截然不同的心态和世界观，而我不确定大众是否已经做好了理解它的准备。

主持人：倒也并非完全格格不入。历史上，我们也曾立法禁止雇佣童工，我们也要求人们必须考取专业资质才能从事某些工作。

比尔·盖茨：我同意你的观点。保留市场价格发现机制的内生活力极具价值。你不希望看到只有一个中央实体来包揽所有的食品生产。

你希望看到人们百花齐放：“我开了一家泰国餐馆，我开了一家印度餐馆。”这其中蕴含着巨大的自由与创新。正因如此，我关于税制改革的提议是：从“对劳动力课税”转向“对资本课税”；同时，我们要挑选出一些特定领域，明确宣告：“不，机器人在这些领域不能全面取代人类。”

在某些领域，这或许是一段时期内的过渡性保护；但在更多领域，这种保护应当是永久性的。我认为这是一场非常合理的公共辩论。如果有人觉得这是个糟糕的解法，或者看不出它能落地在何处，我觉得这很有意思，因为我极度渴望听听他们能拿出什么更好的解决方案。

工作对于获取社会连接和人生意义至关重要。我不希望化解 AI 挑战沦为单一党派的政治博弈。我希望两党都能深度参与进来。他们提出的解法或许截然不同，但我认为，这个议题必须被提升到国家议程的绝对首位。

“不能输给中国”常被当作借口，但真正的风险防线并不分国界

主持人：数据中心的争议正在将监管议题推入公众视野，但切入的角度实在太狭隘了。现在常听到一种声音：“如果我们放慢脚步，就会在竞争中输给中国。”

这种论调的核心逻辑是：任何形式的技术减速，都意味着将主动权拱手让人。这是一个现实的顾虑，毕竟谁也不希望由竞争对手来主导这项技术的全球推广。

比尔·盖茨：但我们必须保持清醒。你认为其他国家会希望看到生物恐怖主义肆虐吗？会希望面临毁灭性的网络攻击吗？真正的问题在于，我们自己对于“究竟该如何谨慎设防”都缺乏清晰的认知。

一旦我们自己厘清了监管方案，我们就可以去寻求国际共识：“我们希望各方所管辖的模型，都不要开放这些高危能力。”

除非你自己先动真格去应对负面危害、拿出切实可行的监控方案，否则就别拿国际竞争当借口。目前我们所拥有的，不过是毫无强制标准的所谓“自愿审查”。

试想一下，如果你带着一套毫无实质内容的自愿标准去寻求国际合作，碰壁后回国摊手说：“看吧，对方什么都不愿意配合。”那纯粹是因为你自己根本没有提出任何实质性的解决方案。这种监管真空目前在很大程度上被一些盲目叫好的“啦啦队长”填补了，这让我深感不安。

主持人：照你这么说，遏制技术作恶其实符合所有人的共同利益，因为这些危害在任何经济体中都会造成打击。事实上，中国在限制未成年人使用 AI 方面已经出台了许多禁令，但西方舆论似乎不太愿意承认，也许我们该认真研究一下他们的做法，并考虑引入类似的限制。

顺便问一句，你刚才提到的盲目叫好的“啦啦队长”指的是谁？

比尔·盖茨：指的是美国政府内部那些一心只想喊着“看，我们保持领先了”的人。他们一直在试图通过各种手段，切断竞争对手获取高端芯片的渠道。我们把这变成了一场纯粹的地缘政治博弈，明确试图打压对方的发展速度。但这直接倒逼了对方举全国之力投入自主芯片的研发体系中。关于他们究竟需要多久，才能彻底补齐被我们封锁的技术缺口，业内目前有各种不同的预测。

主持人：我猜那些科技巨头的高管们也算在内吧？

比尔·盖茨：我想说的是，在我看来，这些科技企业的领袖在公开预警风险时，表现得已经相当负责了。

但你绝不能指望一个商业行业去实现自我监管，这在商业规律上是行不通的。必须有独立的监管者出面仲裁，并明确划定底线：“听着，如果你们不严肃对待生物武器的合成风险，如果你们拒绝接入安全监控机制——那么对不起，你们就拿不到继续推进研发的合规牌照。”

同样，如果你不给家长提供查看孩子在跟谁互动的透明权限，而那些所谓的“朋友”甚至都不是真实的人类，这种底线监管也同样至关重要。

曾一辈子都在鼓吹“技术越多越好”

主持人：最后，我们谈一谈政府监管问题。这显然很重要，显然是应该做的。你觉得我们有基础设施，或者有意愿去监管吗，特别是在这一届政府下？这是一个现实的计划吗？

比尔·盖茨：我们处于民主制度中。就像尽量减少无证销售药物的危害、打击身份冒用、或者防止老年人被骗取钱财一样——我依然相信，政府有能力帮助将这里的危害降到最低，甚至能以建设性的方式，与世界其他国家共同发挥领导作用。

我想有些国家会欢迎这样的态度：“嘿，我们是命运共同体。我们在共同解决问题，而不是我们在占你们的便宜。”你必须相信大家都在乎这件事。我们都是人类，而且行动的时刻就是现在。

如果我能自己挑选时间，我希望能选在一个晚得多的时间节点。但现实已然如此。

整个社会用来厘清这些利弊权衡的集体智慧，并没有真正被调动起来。现在那些正使用 AI 的大学毕业生，他们知道这东西有多强大，也清楚如果就业市场发生转变，情况将对他们不利。

你开始在少数领域看到了一点点警觉，但到底有多大比例的经济学教授在真正关注这个问题，并帮助我们寻找对策？我觉得大概只有 2%。甚至在我和他们见面时，这 2% 中的很多人也没有意识到，他们今天所使用的 AI 是多么的初级。

作为一个身处科技领域，且过去一直主张“科技越多越好”的人，现在我却说出“只有我们讲究分寸（tasteful），好处才能盖过坏处”这样的话，这意味着我绝对是在拉响极其强烈的警报。

自 2008 年我转为在基金会全职工作以来，只要有机会与各国政要会面，我传递的信息中 90% 都是关于帮助降低儿童死亡率的。我们已经把死亡率降低了一半，并希望在基金会剩余的 19 年里再减半。

但现在，我与各国政要交流的大部分时间，都将用来讨论 AI。

我希望在未来几年里，（各界对 AI 的）参与能够变得足够广泛而充分，这样我就能把分配给我的时间，重新用 90% 来关注全球健康、疟疾和小儿麻痹症——而不是被迫动用我第一段职业生涯的经验，去对人们说：“你们还没明白”这东西影响有多深远、进步有多快，以及限制这些负面影响将需要付出多么巨大的努力。

主持人：你用 讲究分寸（tasteful） 这个词了吗？这是个我没预料到的词。为什么是“得体”？

比尔·盖茨：这是个好词。分寸听起来有克制感。得体。

考虑到其中涉及的资金规模和人数，人类历史上还从未有过哪一个领域能汇聚如此多的资本或如此庞大的薪资总额。哪怕先不谈机器人，这里也有数百家公司在全速狂奔。

要求他们在安全措施上投入精力的这种平衡，在今天完全是失衡的。甚至连行业内部都在问：“监管规定到底在哪里？”或许这些人中有一部分并不真诚。如果我们真的拿出了监管方案，肯定会听到他们的抗议声。但我们正试图让它成为一种促进公平的因素，不仅是为了美国，也是为了全世界。

所以，“讲究分寸”的意思更像是公平。对于如果在某些负面事情不受遏制将面临极大风险的事情，用这样一个温和的词汇确实带有轻微的讽刺意味。

主持人：非常感谢你今天抽时间聊聊。

比尔·盖茨：很高兴和你谈话。

首次双会并行，干货福利限时放送！

2026 奇点智能技术大会 与 C++及系统软件技术大会，将于 11 月 20—21 日 在北京万达文华酒店举办。

上层 AI 应用的爆发，离不开底层系统软件的支撑——这一次，我们把 AI 与系统软件两大技术脉络放到同一现场，一起看趋势、看实践、看落地。

为了方便大家提前预习大会内容，我们同步开放了资料福利包，包含 OpenAI 资深研究科学家、Transformer 八子之一 Łukasz Kaiser 演讲视频与 PPT、C++ 之父 Bjarne Stroustrup 精选合集、Agent 实战训练营录播课等内容。

扫码即可领取。