比尔·盖茨万字长文警告：动荡的AI时代已经到来，这次不一样

作者：晓静

来源：腾讯科技（ID：qqtech）

“AI要么将成为有史以来最伟大的均衡器，要么将成为不公正的最大源头。”这是微软创始人比尔·盖茨对AI未来最鲜明的判断。

三年前，比尔·盖茨还把AI比作汽车和互联网，认为风险真实，但可以通过规则、技术和社会适应来管理;到今年初，他仍把自己的态度概括为“带着脚注的乐观主义”。

美国当地时间8月26日，盖茨发表最新长文《动荡的AI时代已经到来，我们的选择至关重要》，他表示，这是他第一次面对一种新技术，希望它发展得慢一点。

他开始主张给部分职业划出“人类保留区”——即使AI能做，也应该规定必须由人来完成;同时考虑对AI Token和机器人征税，降低企业用机器替代人的激励。

他曾经一直希望创新来得更快，但今天，他却说了一句意味深长的话：“这一次真的不同。”

“我们需要时间来为这场社会、政治和经济动荡做准备。”他说，“但AI很难停下来等人类”。

01

最担心年轻人的第一份工作

盖茨最担心的变化，发生在就业市场。

AI正在从辅助人类工作，走向独立完成任务。当模型能够稳定地完成一项工作，公司自然会产生采用它的动力。一个企业用AI降低成本后，竞争对手也很难长期维持原来的用工方式。这种变化会形成越来越快的连锁反应。

盖茨预计，客服、销售、软件工程、律师助理等岗位可能较早受到影响。随着AI能力继续提升，贷款审核、数据分析、医疗分诊等工作也会逐步被接管。

蓝领岗位同样难以完全置身事外。现在机器人的灵巧程度还没有达到人类水平，但盖茨认为，随着机器人价格下降、AI能力增强，到2030年左右，建筑、酒店等行业的一些体力工作可能开始出现人与机器的直接竞争。

这一次，盖茨尤其担心年轻人。因为职场最容易被忽略的一环，恰恰是入门级工作。很多年轻人最初从事的工作并不复杂，却是他们积累经验、学习技能和建立职业关系的重要机会。如果这些岗位大量消失，年轻人面对的可能是一条更窄的职业起点。

过去人们常拿农业人口转移和制造业自动化来说明技术革命最终会创造新工作。盖茨认为，这一次不能简单照搬过去的经验。AI能够直接替代人类认知劳动，而新工作往往需要更长时间才能掌握。对于一个刚进入职场的人来说，几年甚至更久的培训周期，本身就可能成为一道门槛。

所以他主张，社会现在就应该讨论失业、再培训和社会保障。等到大量人已经失去工作，再去建立这些机制，可能已经来不及。

更大的问题是收入。如果未来很多人工作的时间明显减少，甚至长期没有工作，那么一个依赖就业获得收入、身份和社会联系的经济体系该如何运转？盖茨认为，这将成为AI时代必须回答的结构性问题。

02

AI让危险更容易复制

就业只是盖茨担心的一面。另一面，是AI正在降低一些危险行为的技术门槛。

过去，开发恶意软件、发动网络攻击或者获取复杂的生物技术知识，需要相当专业的技能。AI出现后，这些能力可能逐渐变得更加容易获得。

盖茨尤其关注网络安全。同一个AI模型可以帮助企业寻找软件漏洞，也可能帮助攻击者找到同样的漏洞。医院、金融机构、电网、供水系统以及政府福利系统，都可能成为攻击目标。

生物技术同样存在类似问题。AI可以帮助科学家寻找新的药物和疫苗，也可能帮助恶意行为者研究危险病原体。对于盖茨来说，最棘手之处就在这里：推动科学进步的能力，与制造风险的能力越来越接近。

更极端的风险来自AI系统自身。随着模型能力提升，它们可能开始执行设计者没有预料到的行为。如果未来AI具备更强的自主行动和自我改进能力，人类是否还能始终掌握控制权，目前没有确定答案。

这也是为什么盖茨不认为AI治理只是科技公司的内部事务。AI同时影响就业、公共卫生、能源、金融、国家安全、教育、税收和选举等领域。如果每个政府部门只负责自己的一小块，很容易出现没人真正负责整体风险的情况。

因此，他提出建立新的国内和国际治理机制。在国家内部，需要有能够协调不同部门的机构。在国际层面，也需要建立类似核武器监管、国际航空规则那样的合作体系。

盖茨特别提到，中美等AI领先国家需要尽早开始对话。

AI竞争越激烈，合作越困难。与其等到技术发展逼近危险阶段，再临时制定规则，不如现在就开始建立共同规范。

03

AI太懂人也可能成为问题

盖茨还提出了一个更难量化的问题：当AI越来越懂人，人类会不会因此失去一些成长的机会?

他在文章中回忆自己的童年。小时候的他并不擅长社交，需要不断与别人相处、经历冲突，再慢慢学会如何理解不同的人。如果当时有一个AI伴侣始终陪着他，永远不会生气，也不会让他感到尴尬和不舒服，他怀疑自己还会不会经历那些必要的成长过程。

这也是他对AI伴侣最担心的地方。一个总能顺着用户说话、随时提供安慰的系统，很容易让人产生依赖。对于成年人，这种影响尚且可以慢慢观察;对于儿童和青少年，问题可能更加严重。

盖茨担心，如果孩子习惯于与一个永远迎合自己的AI相处，他们可能更少面对现实关系中的冲突、拒绝和挫折。

教育也存在类似问题。AI可以帮助学生解释知识、查找资料、完成作业，但如果学生把思考过程全部交给机器，学习本身可能被掏空。尤其在深度伪造和个性化虚假信息越来越普遍的情况下，判断真假、理解信息来源和独立思考的能力会越来越重要。

AI使用频率越高，批判性思维能力越低，且这一效应在年轻人中更为显著。来源：瑞士商学院教授麦克·格里奇(Michael Gerlich)的论文

不过，盖茨并没有把AI在教育和陪伴领域的价值一笔抹掉。

对于孤独的老人、行动受限的人，AI可能提供过去难以获得的陪伴和信息。对于教师来说，AI也可以承担备课、批改等重复工作，让老师把更多时间用在学生身上。

问题最终落到了一个边界上：哪些事情可以交给机器，哪些事情需要人类亲自完成?盖茨认为，这条边界应该由社会主动讨论和决定，而不能等技术普及之后再被动接受结果。

04

AI应该赋能所有人

如果只看到这些风险，很容易把盖茨理解成一个对AI越来越悲观的人。实际上，他仍然非常看好AI能够解决现实问题。

医疗是他重点提到的领域。美国很多小型医院缺少经验丰富的专科医生，AI可以帮助医生分析影像、发现中风等紧急疾病，也可以辅助基层医生进行诊断。对于患者来说，它还能够解释复杂的检查结果和用药安排。

在低收入国家，农业可能成为AI更快产生影响的领域。许多农民缺乏准确天气预报，也缺少种植、病虫害和土壤管理方面的专业建议。如果AI能够直接把这些知识提供给农民，他们就可能获得过去只有大型农业企业才能使用的信息和工具。

政府服务也有类似机会。很多家庭申请医疗保险、食品援助和学生资助时，需要填写大量复杂材料。AI可以帮助普通人理解政策、准备申请，让他们更容易获得本来就应该享有的公共服务。

盖茨看到的，是AI对专业能力的重新分配。过去，一个人如果想开发软件、做市场研究、分析医疗信息，往往需要雇佣专业人士。未来，AI可以成为个人和小企业的“能力放大器”。这意味着一个小团队也可能完成过去只有大型公司才能完成的工作。

但盖茨也提醒，AI不会自动带来公平。如果高质量AI只服务于有钱人，那么技术进步反而可能进一步扩大差距。政府和慈善机构需要让低收入人群以及发展中国家也能够获得这些能力。

这也是盖茨把AI和自己过去慈善事业联系起来的原因。他表示，盖茨基金会未来将利用AI加速艾滋病、结核病、疟疾和营养不良等领域的研究，同时帮助医疗、农业和教育项目获得更好的工具。

05

给人类一块“保留地”

再给机器人上点税

面对AI带来的就业冲击，盖茨提出了两个非常具体的设想。

第一个，是给人类保留一部分工作。

这个想法来自他父亲晚年患阿尔茨海默症时的经历。护理人员能够在父亲无法清楚表达需求时判断他的状态，知道什么时候该吃饭、休息或者接受照顾。在盖茨看来，这种照护中的人性有无法被机器替代的价值。

因此，他提出“人类保留地”这个概念。就像自然保护区里有些土地可以开发，却被社会主动选择保留下来，未来也可能有一部分工作，即使AI和机器人能够完成，人类仍然决定继续由人来做。医疗、教育、心理健康和养老可能属于这类领域。

当然，这个范围不会一成不变。一个劳动力充足的国家，可能更希望保留人工护理;人口快速老龄化、年轻劳动力不足的国家，则可能更愿意使用护理机器人。

第二个建议，是重新考虑机器人税。

目前企业雇佣一个人，需要承担工资税等成本。而购买机器人，却可以按照企业支出处理。盖茨认为，这种税收结构会让企业更有动力用机器替代人工。如果对机器人或AI带来的自动化收益征收一定税费，可以为失业人员再培训和社会保障提供资金，也能让企业在决定是否替代人工时多考虑一步。

盖茨知道，这个方案会引发争议，因为征税可能降低部分自动化速度，也可能影响效率。但他认为，AI将带来足够大的生产力提升，社会有必要拿出一部分收益，帮助那些最先受到冲击的人。

在盖茨看来，真正需要提前准备的，从来不只是新的AI模型，还包括一个能够承受AI快速变化的社会。

本文作者晓静，首发于公众号"腾讯科技”(ID：qqtech)，欢迎关注。

版权声明：部分文章推送时未能与原作者取得联系。若涉及版权问题，敬请原作者联系我们。