比尔·盖茨警告：AI比核武器更危险，不能依靠科技公司自我监管

10月15日消息，据外媒报道，微软联合创始人、前CEO比尔·盖茨近日接受《梵蒂冈新闻》采访时表示，人工智能带来的风险远没有得到足够重视，而科技行业也没有能力完全依靠自我监管解决这些问题。他认为，政府必须成为AI治理的主要推动者。

不过，盖茨同时强调，人类不仅没有充分控制AI风险，也没有充分利用它已经能够带来的机会，尤其是在医疗、教育和农业等领域。

盖茨表示，最近越来越多科技行业内部人士开始公开讨论AI风险，这一点值得注意。因为这些人平时彼此竞争，在很多问题上意见不同，但如今却逐渐形成一个共同判断：AI不能完全交给行业自己管理，需要政府等相对中立的机构参与。

真正的困难在于，目前许多政府官员并不充分理解AI技术究竟如何运行。

盖茨认为，AI的风险与机遇正在同步扩大。一方面，技术可能加剧现有的社会问题；另一方面，如果使用得当，它也可能成为缩小贫富差距的重要工具。

盖茨基金会上个月发布的年度《目标守护者报告》就提出，AI既可能促进社会公平，也可能进一步扩大富人与穷人之间的差距。

例如，AI有机会让乡村医生利用智能手机完成类似超声检查的工作，为学生提供真正适应个人学习方式的辅导，或者根据农田的土壤和天气情况，为农民提供更有针对性的种植建议。但这些好处不会因为模型能力提升就自动实现。

盖茨指出，如果完全依靠市场机制，企业往往会优先为支付能力最强的客户开发AI产品，而不是为最需要帮助的人提供服务。

因此，盖茨基金会决定在未来两年投入10亿美元，重点推动AI在医疗、教育和农业领域的应用，特别是那些商业力量通常最后才会进入的欠发达地区。

在盖茨看来，AI风险和AI机遇正在以相近的速度发展，人类必须同时处理这两个问题，不能只关注其中一面。

谈到AI对整个社会的长期影响时，盖茨认为，这项技术与过去的个人电脑和互联网革命存在本质区别。

过去的新技术通常会先带来冲击，但随着社会逐渐适应，人们最终会拥有更好的工具。

AI则不同。盖茨把它比作一次类似进化事件的变化，因为人类创造出了一种在许多认知任务上已经能够达到甚至超过人类水平的智能。如果只是把AI理解成下一代个人电脑，就会严重低估它可能带来的影响。

盖茨认为，人类社会接下来大致会经历两个阶段。

第一个阶段就是当前的过渡期。AI的巨大收益还没有在全球范围内充分释放，但技术造成的就业和社会冲击已经开始出现。这种情况在发达国家可能更加明显，因为这些国家已经拥有比较完善的服务体系，AI首先带来的可能是对现有工作方式和岗位的替代。

但在低收入国家，情况可能恰好相反。由于当地原本就存在大量尚未满足的医疗、教育和农业需求，AI带来的好处可能比就业冲击更早出现。

不过，要真正实现这一点，必须解决AI模型存在的语言和文化覆盖问题。

盖茨指出，目前大多数AI模型主要使用英语数据训练，导致全球数十亿使用其他语言的人无法获得同等质量的AI服务。因此，接下来的社会调整不能只停留在技术层面，还需要重新考虑一系列制度问题。

例如，政府应该如何对人类劳动和自动化生产征税，哪些工作应该有意识地保留给人类，以及怎样确保AI真正进入最需要它的地区，而不是只服务付费能力最强的人群。

如果人类能够顺利度过这个阶段，并建立足够完善的安全机制和公平使用体系，AI未来就可能带来一个真正的富足时代。盖茨设想，在那个阶段，AI和人形机器人可以承担大量基础生产任务，包括粮食生产、住房建设以及其他基本生活需求。

但当物质短缺不再是主要问题时，人类又会面临新的挑战，例如生活的意义是什么，以及拥有大量自由时间之后应该如何安排人生。

不过，盖茨目前更关心的不是几十年后的理想社会，而是如何安全度过接下来的几年。

他特别担心AI可能被用于发动灾难性的生物恐怖袭击，或者实施严重破坏关键基础设施的网络攻击。

与此同时，他也不希望AI发展导致大量劳动者被抛在就业市场之外，或者让世界上许多欠发达地区进一步掉队。

对于特朗普政府相对淡化AI风险的态度，盖茨表达了不同看法。他提出了一个非常鲜明的判断：AI可能比核武器更加危险，但它给人类带来的潜在好处，也可能超过核能。

盖茨认为，为AI增加基本安全检查并不需要付出太大的发展速度代价，却能够显著降低风险，因此完全值得去做。

他主张，各国政府首先需要对AI的基本现实形成共识，也就是承认AI确实存在严重风险，同时也拥有巨大价值，然后再讨论具体应该采取哪些监管措施。要做到这一点，政府内部需要更多真正理解AI的专业人才，同时还需要加强政府与企业之间，以及不同国家政府之间的合作。因为没有任何国家愿意看到生物恐怖主义袭击，或者一场网络攻击导致本国关键基础设施瘫痪。

盖茨担心，政治体系可能要等到真正发生一次严重网络攻击或生物恐怖事件之后，才会开始足够认真地对待AI安全问题。

当被问及自己退出微软日常经营是否与AI风险有关时，盖茨予以否认。他表示，退出微软管理层是一个长期规划、逐步完成的过程，目的是将更多时间投入慈善事业和盖茨基金会的工作，这一转变早在十多年前就已经发生，与当前AI安全争论没有关系。

采访最后，盖茨还谈到了教皇利奥十四世的通谕《Magnifica humanitas》，以及其中对人工智能的思考。盖茨表示，自己已经阅读过这份文件，并在今年8月的一份备忘录中讨论过相关内容。

最让他印象深刻的是，教皇并没有简单要求人类停止发展AI，而是提出了一个更加深入的问题：面对越来越强大的人工智能，人类应该如何主动保留那些真正属于人的东西。

盖茨认为，这与自己长期以来的观点非常接近。他举例说，照顾儿童、担任法官或陪审员，以及医疗中的某些工作，都不仅仅是完成一项任务。在这些场景里，人与人之间建立的关系本身就是工作价值的重要组成部分。

因此，即使未来AI模型的能力已经足以完成这些任务，也不意味着人类就应该把它们全部交给机器。