赵致真：“人类命运共同体”和现代科技随想（6）

六、“人工智能”拉响的警报

2023年5月，总部位于旧金山的人工智能安全中心发布了一份由350多位业内顶级专家和学者联署的声明。只有一句话：“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球的优先事项。”

这是振聋发聩的醒世箴言，还是庸人自扰的危言耸听？

早在2015年，科学泰斗霍金就在轮椅上发出过类似警告，当代科技巨头比尔·盖茨、埃隆·马斯克都表示过相同的担忧。

当我们对人工智能分为“乐观派”和“担忧派”时，争论的焦点在于：人工智能会不会全面地“聪明过人”？如果会，我们还剩多少时间？它们会不会“取人类而代之”，统治地球而且毁灭人类。

关于第一个问题，霍金认为“没有任何物理定律，阻止粒子比人脑中粒子的排列方式进行更高级的运算”。科学研究表明，生物神经元的最高工作频率约200赫兹，而计算机的工作频率可达数千兆赫兹；神经轴突传输信号的速度最高每秒120米，而计算机则以电和光的速度传输；人类智能受限于大脑的尺寸和结构，人工智能却可以简单地增加硬件来扩展。此外关于记忆的信息量、精确度、可靠性，知识的可复制、可编辑性等等，都是不可同日而语的。

“阿尔法狗”击败韩国围棋大师李世石，这只是“弱人工智能”阶段，因为除了下棋，“阿尔法狗”不能完成其他任务。

即将来临的人工智能时代

2022年11月30日发布的“Chat GPT”聊天机器人，已经能够通过大量的数据训练和模型自学，获得不同领域的多种功能。从而进入了“通用人工智能”阶段。

如果继续势如破竹地向前推进，就来到了“人工超级智能”的最后阶段。几乎在所有领域，包括科学创造和社会交往，“人工智能”都远远超过人类大脑的智慧。不仅能自我学习和改进，还能够自我复制，并有独立的情感和价值判断。

看来人工智能发展的“三阶段”是不可避免了。

那么第二个问题，人类还剩多少时间做好准备呢？过去有人说几十年，现在都普遍缩短了，认为不过20年或者更短。因为当第一台“人工超级智能”出现时，将是人类的最后一项发明创造，从此已经不用再“劳驾”人类为科学做出“微薄奉献”了。人类作为“雷管”，已经触发了“智能大爆炸”。在地球文明史上，生命的发生，智慧的出现，人工智能的兴起，是具有质变意义的三个奇点。

人类的下一代将学会和人工智能和谐相处

人类能阻挡“人工智能”时代的来临吗？2023年3月29日，“生命未来研究所”起草了一封公开信，开放人工智能公司联合创始人马斯克，苹果公司联合创始人史蒂夫，谷歌副总裁辛顿等1000多位科学家和领军人物，呼吁所有AI实验室立即暂停训练比GPT-4更强大的系统至少6个月。这些“始作俑者”们显然都被自己的“杰作”吓住了，他们需要喘喘气，回回神，并看看能不能利用这段时间，建立一个确保安全的发展框架。

我不打算进一步细说了，反正大家都有点手忙脚乱，六神无主。如果早早构建起“人类命运共同体”，我们就会主动和从容得多了。

事到如今，一切通过“政策干预”来限制人工智能发展，显然都行不通。总会有“政策宽松”的地方，或明或暗的资金去乘机抢先，就像当年爱迪生的诉讼逼出了好莱坞那样。何况在一个彼此对立的世界，各国恐怕只会加大投入，避免在人工智能竞赛中落伍和出局吧。

再说，一切崇高的动机都是为了确保“人类”的安全。需要在人工智能的代码中，编入人类的“道德价值观”。而当今“我们”人类有相同的道德价值观吗？当“你们”西方人担心人工智能“操纵大选”时，“他们”巴勒斯坦人可能最担心人工智能更精准地炸毁医院和难民营。2021年，当联合国一片苦心，希望通过一项《禁止杀手机器人条约》，却因军事大国反对而付之东流。显而易见，如果没有“人类命运共同体”的共识和共情，这个世界上许多事都是办不成的。

“人类命运共同体”和人工智能时代的光明前景

可敬的联合国并非无所作为，据悉最近又倡议各成员国签署一项《仁慈通用人工智能条约》，明确规定“只允许利他主义的人工超级智能”（only altruistic Artificial Superintelligences）。公开拒绝“自私的基因”了。但这种微弱的呐喊，如何能令行禁止呢？

无论我们怎样费尽心机，人工智能超越人类的那天一定会到来。可以把他们想象成外星人，正乘坐宇宙飞船赶往地球。我们已经接到他们的电话说，将于20年后抵达。剩下的事，就是如何举行欢迎仪式了。

至于“人工超级智能”会不会“背叛人类”和接管地球，这是科幻故事的领域了。尽管辛顿说：“没有一个好的记录表明，低智能的东西能控制高智能的东西”。但回望人工智能的历史，不是从“弱肉强食”的自然选择中产生的。我倒宁愿相信，他们消化吸收了人类所有的知识并深入研究后，会更客观公正地发现真理，并劝诫“主人”更爱自己的同胞，并摆正“地球长子”的位置，善待这颗行星上一路走来的万物生灵。

至于未来如何与“人工超级智能”打交道，那是你们的全新课题，是未来“人类命运共同体”的时代课题了。但从势头和格局，“人工超级智能”大概不屑去争夺“摇篮里的资源”。他们的横空出世，也许更有利于“地球文明”迅速晋升为“三级文明”，去实现大自然的终极目标：让宇宙充满智慧，让智慧充满宇宙！

作者简介

赵致真，男，1943年生，1967年毕业于武汉大学中文系，首批国务院政府津贴专家。1985至2003年任武汉电视台台长，曾任中国科技新闻学会副会长、中国科教影视协会副会长、中国作家协会会员、武汉市科教影视协会理事长、中央电视台大型科教电视栏目“科技之光”主编，著有《播火录》（北京出版社，2019年6月）。