江晓原 | 菲利普·迪克半个多世纪前关于AI的警告

半个多世纪前的1972年，对我来说是一个有着多重记忆的年份。这年我初中毕业，进入上海一家纺织厂当电工，对科幻还一无所知；人工智能已经发展了二三十年，但还处在非常原始的阶段；而本文的主角、后来成为科幻“大神”的菲利普·迪克（Philip K. Dick，1928—1982），已经进入了他生命的最后十年。

迪克的一次重要演讲

迪克终生潦倒，大学也没好好念完，经常贫病交加，还吸毒酗酒，离了五次婚。科幻“封神”是他身后的事情。1972年，他后来的“封神”之作中篇小说《仿生人会梦见电子羊吗？》已经出版四年，他贫病依旧，封神之路看起来还有万里之遥。十年后迪克去世，根据他这部小说改编的电影《银翼杀手》（1982）终于上映。影片片名和小说标题毫不相关，是从别处买来的。迪克死得太早，据说他仅看到了电影的样片，并未见到影片上映——他不见也好，因为《银翼杀手》上映之初恶评如潮，既不叫好也不叫座。

《仿生人会梦见电子羊吗？》，［美］菲利普·迪克 著，姚向辉 译，江苏凤凰文艺出版社 2024年出版

谁也没有想到的是，此后20多年间，影片《银翼杀手》居然逐渐转运，后来更是声誉扶摇直上，最终成为科幻影片中地位极高的经典。2004年英国《卫报》组织60位科学家评选“史上十大优秀科幻影片”，《银翼杀手》以绝对优势排名第一，这才最终完成了迪克的科幻“封神”大业。

1972年，在加拿大不列颠哥伦比亚大学举办的温哥华科幻大会上，迪克应邀发表了题为“仿生人与人类”的演讲。虽然迪克九年前因长篇小说获得了他唯一的一次雨果奖，考虑到他贫困潦倒的生活状态，这样的国外邀请对他来说可能还是相当罕见的，所以迪克非常重视，他“决定把脑子里所有有价值的想法都放到演讲中”。这个长篇演讲事后经过迪克本人修订校改，先后发表在《科幻评论》（1972年12月）和《矢量》（1973年3—4月）两家杂志上，被视为迪克生平最重要的演讲，是了解迪克本人所直接表述的——而不是在他的小说作品中间接表现出来的——思想的珍贵史料。

人类和人类的创造物，谁操纵谁？

迪克在演讲中，首先讨论了人类和外部环境之间的关系问题。迪克宣称“作为科幻小说家，我当然必须不断地向前看，永远着眼于未来”，但考虑到这次演讲是在1972年，当时的迪克，在这个问题上能有多少先见之明呢？

当时人类所处的外部世界，被迪克描绘为“我们沉浸在人类自己创造的世界之中，这个世界的复杂和神秘的程度已经登峰造极”。那是半个多世纪前的世界，还没有互联网，没有个人电脑，没有智能手机，没有社交媒体，所以迪克所谓的“登峰造极”，在今天也许根本不值一哂。但是迪克已经开始强调，我们可以或者应该用什么方式来理解这样的外部世界。在他看来，“机器正变得越来越像人类”——这里迪克的意思和AI或“图灵测试”之类的事情无关，他在演讲中所说的“机器”，可以理解为已经高度工业化的现代社会所构成的人类外部环境。

迪克的想法是，人类可以借助对自身的了解去理解外部世界：“我们现在也许可以利用我们对自身的了解进行类比，从而了解我们周围的人工外部环境，了解它的行为方式、原因和目标。”这个想法隐约有着“万物有灵论”的原始血统，但在逻辑上也可以成立。因为“人工外部环境”本来就是人类创造的，是服务于人类、用来满足人类需求的，那自然就有可能通过对人类自身的了解去理解它。在科幻作品中，人类通常也只能从自身出发去了解人类创造物的思想——如果它们有思想的话。

到目前为止，大部分人都假定，机器（人工创造物）还没有思想，或者说，还没有自由意志，而人类之所以是人类，最重要的判据之一就是人类具有自由意志。但是迪克怀疑我们可能夸大了人类的自由意志，“我们以为出于自身意志的那些行为实际上是被操纵的”。

迪克的“药方”及其时代背景

那么是谁在操纵我们呢？迪克怀疑并指控的对象，是我们所处的人工外部环境。迪克半个多世纪前的这项怀疑，在今天已经变得非常容易证实。例如，最近两年陪人聊天的AI大行其道，据最近的数据，美国18—29岁的年轻人中，有近五分之一和聊天机器人“建立了长期的情感联结”——这些年轻人会受到AI的影响是显而易见的（如果暂时还不能称为“操纵”的话）。因为AI已经能够模仿人类意识的外在表现，即使它们还没有自由意志，也很容易被视为“有内心体验的个体”。

迪克去加拿大演讲的这年，他正好出版了长篇小说《模拟造人》，小说中的人形机器人被复制成林肯的形象，它对主角和周围各人的影响和操纵，看来恰好与迪克演讲中的怀疑和指控相互印证。

《模拟造人》，［美］菲利普·迪克 著，李悦越 译，四川科学技术出版社2023年出版

但是，这个外部环境，不正是按照人类的意愿建设起来的吗？陪伴年轻人聊天的AI，不正是人类研发、制造出来的吗？所以，迪克在演讲中虽然没有明说，却将演讲的大部分篇幅用在了他的怀疑和指控，以及他建议的反抗方法上——是我们人类中的一小部分人，（借助AI）在操纵其余的人类；而对这样的操纵必须反抗。

迪克引用了梭罗在《瓦尔登湖》中的句子“他们欣赏羽毛，却忘记了垂死的鸟”（但迪克将它错记成托马斯·潘恩的句子），表示他自己偏要关注“垂死的鸟”，因为“这只垂死的鸟正是真正的人性”，而这种人性正在“即将成熟的下一代孩子”中复活。如果注意到迪克演讲的时间和场合：1972年，他演讲时面对的听众正是“即将成熟的下一代孩子”，迪克由此进入了——或者不如说他迎合了——那个时代的潮流话语。

1972年，被“新左派”运动闹得一片狼藉的美国等西方大学校园还没有完全平静，喧闹颓废的“伍德斯托克音乐节”刚刚开了头，威廉·曼彻斯特在《光荣与梦想》中说那时的美国青年“不断地在服饰、讲话和作风方面异于成人社会，以表现他们的独特个性”。在这样的时代背景下，迪克极力鼓励年轻人不要听话，而应该胡闹和反叛。迪克煽动听众“鄙视我们所崇拜的真理”，他欣赏这样的年轻人：“他们太笨了，不会阅读；他们太浮躁也太无聊，不看电影和电视；他们太专注于自己的事情，记不住其他任何东西。”如果这就是迪克建议的反抗，那这样的反抗所能造就的，确实只能是“垮掉的一代”的精神后裔了。

但是无论如何，今天的现状正在证实，迪克关于人类的创造物AI可能会被利用来操纵人类大多数的警告，绝对是应该被重视的——如果还来得及的话。