广西
比尔·盖茨警告“人工智能或致 10 亿人死亡”。
【盖茨在NBC《与媒体见面》节目的采访片段】
9月25日，比尔盖茨说：
“从未有过任何一种武器，能比得上怀有恶意的人借助最新 AI 工具所形成的威胁。”
我们来聊一下关于人工智能和世界末日，或者说和世界末日相关的几个话题，从而聊一下今天我看到的新闻。
随着人工智能技术的发展，灾难性的警告也越来越多。
之前还有Anthropic员工雅各布·考克森表达过，他认为人工智能会有很大可能在未来导致人类灭亡，应当对其进行限制。
当然，这里我并不打算去讨论具体 AI 到底会不会毁灭人类这件事，我只是想来讨论一下在很久以前我玩过的几部游戏，以及一些影视作品里面讲述的和 AI 相关的世界末日与末世废土故事。
这些故事非常有意思，具有前瞻性，现在看来，它算不算是一种预言还真不好说。
首先我们来谈第一个。
AI 在现在发展突飞猛进，听说有不少科技巨头已经开始在研制有自我意识、能自我进化的 AI，通过深度学习功能不断提升自己的智力等各方面的能力——它具有深度思考以及记忆能力，能够给自己更迭版本，能够提升自己的各项能力，甚至能自我编程、自己给自己修 bug。
AI 能做到的事情越来越多，人工智能的力量也越来越强悍、越来越万能。
在这里呢，比尔·盖茨表示说“坏人加 AI”这个组合可能是历史上出现过最恐怖的武器。
但在我们谈坏人和 AI 的结合之前（比如现在利用 AI 来学习亲人的声音和样子去骗钱），这也是我接触到用AI骗钱的实例了。
我们可以先回顾一下经典作品里的超级AI。
【重装机兵开始画面】
我童年时，玩过一个很古老的游戏叫《重装机兵》。
这部游戏一共出了 4 部和 1 部外传（钢尘之锁），之后便没有新作出现了。
《重装机兵》第一代的故事，发生在一个人类超级AI“诺亚”出现的世界里。这个AI产生了自我意识，认为人类是有害生物，需要完全消除才能让地球变得更美好。
于是，这个 AI 通过控制许多致命武器带来了世界末日，将人类几乎消灭殆尽，让世界变成了一片废土。
【游戏画面】
在《重装机兵》的世界里，我们作为赏金猎人，开着战车行驶在一片末日废土之上。到处都是因为核战争后变异的怪物和一些落草为寇割据一方的军阀，大家在末世中互相厮杀，寻求活下去的权利。
开着战车对抗人工智能电脑来拯救世界，人车分离系统的开放世界游戏。在童年的我第一次接触自由度如此高的游戏，实在惊艳。
在这部游戏中，诺亚更多是一个背景和Boss，并没有太多的探讨人工智能问题。
【最终BOSS 诺亚】
而后，我又在电影中看到了类似的东西，那就是大名鼎鼎的《终结者》系列。
《终结者》中超级人工智能“天网”系统，也是高度发达的人工智能。一样得出了结论：人类需要被毁灭。
天网系统产生了自我意识，激活之后决定消灭人类，先对苏联发动核打击，引发了世界末日。
天网还建立了流水线，专门生产用来消灭人类的AI杀戮机器人，不仅不怕死，还有各种实用功能，夜视，巨大力量，还有热成像什么的，驾驶各种载具轻而易举，理解各种语言也是轻松，还能完美驾驭任何兵器。
【天网机器人，纯流水线机器人】
这部电影由大名鼎鼎的詹姆斯·卡梅隆执导，里面有我最喜欢的演员——曾经的加州州长阿诺德·施瓦辛格。
【老强壮了阿诺，来自加州，不是常熟】
他阿诺演的也是一个终结者机器人。
以前记得看着施瓦辛格骑着那辆大哈雷摩托拿着那把霰弹枪的时候，让我一秒钟爱上了哈雷，也让阿诺成了我童年的偶像。
在这部电影中，起码最出名的第二部，讲的依旧是人性感动了产生自我意识的AI，人性的光辉为侧重点。
最后要谈的是一部比较小众的游戏，改编自哈伦·埃里森同名小说的《无声狂笑》（I Have No Mouth, and I Must Scream）。
这部游戏主要的游玩方式是比较古老的一种形式——点击式解谜游戏，但是这部游戏的内容非常深刻。
我个人认为，所有以小说改编或作家作为编剧的游戏或电影，其内容往往都更为深刻一些。
背景是为了预防世界大战，中国、美国和俄罗斯一起研造了一台超级人工智能电脑 AM，这个电脑能控制世界上所有的官方武器。
AM本尊
但是它也形成了自己的意识，它知道自己已经是这个世界上最强的势力，于是他就开始毁灭人类。
它留下了 5 个有着不同背景、不同经历的人类，用尽手段来玩弄折磨他们。
但是，人工智能电脑终归不是人类。
这个人工智能电脑通过高科技给了这 5 个人各种幻象折磨，最终幻象引领着人们让人工智能走向了灭亡。
游戏画面
这部游戏虽然是以人工智能电脑毁灭世界为背景，但实际上仍然是在探讨人类社会的人性以及战争等现实问题，说到底还是一个利用人工智能背景来批判现实的批判性小说和游戏。
在很多人工智能题材作品的背景下，都会有一个共识，就是高级的人工智能一旦产生了自我意识，首要目标就是毁灭人类。
那么我们不妨来看看比尔·盖茨说的这段话，重点在于【坏人加AI】
如果是坏人掌握了人工智能、生产人工智能，让人工智能不再用来造福社会，而是危害社会，那么这个武器肯定会是相当可怕的存在。
但是说到底，AI 还是一种工具，工具本身没有善恶。
就像去五金店买了一把电锯，是用它来杀戮生命，还是用它来锯危险的树枝造福社会，都在人的一念之差。
强大的工具，如果仅仅是因为其强大而完全否认其用处、拒绝去使用它，那么对于人类社会的进步，我想也是没什么太大好处的。
所以，重要的仍然是人；无法被取代的，仍然还是人。
007:初露锋芒中的超级AI
【PS最近玩的游戏《007:初露锋芒》里面也有一台超级AI，专门用来打击犯罪的，但是也被人恶意操纵，反倒成了坏人帮凶。或许比尔盖茨也玩了这款游戏，哈哈。】
那么你是怎么看的呢？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
