刘永谋：AI是不是主体、有没有意识，本质上是价值问题，而不是科学问题

*中国人民大学吴玉章 讲席教授刘永谋首发于微信公众号，保留一切知识产权，侵犯必究。

我所谓的“AI觉醒论”，主要包括：AI是主体、AI有意识、AI有意志、AI要统治人类、AI是硅基生命等观点。这些观点之所以出现，都是AI宣传术在作怪，理论底色是AI拟人论。

这是从传播学角度进行的剖析。从认识论、知识论的角度，如何看待这一类的问题呢？长期思考后，我认为，这也是统一科学运动的结果——准确地说，这是哲学自然科学化尤其是道德学自然科学化的结果。

在中，我谈到哲学的自然主义趋势。本质上，这实际是把哲学的核心问题自然科学化的过程。比如意识问题，一直是现代哲学自笛卡尔之后的核心问题。现在，认知科学、脑科学用几个功能参数来表征意识，然后意识问题抢过去研究，号称改变意识哲学争论不休的局面。

显然，这并不可能真正澄清意识之谜。为什么？第一，自然科学同样有很多门派，相互之间也聚讼不休。第二，意识不能用几个功能参数来取代，即使非要这么做，应该用哪几个参数谁也说不清道。

当意识说不清楚的时候，讨论AI意识不是开玩笑吗？调整一下意识参数，我就可以说AI有意识。换几个参数，你也可以说AI没有意识。现在大家搞的就是这种把戏。

这种情况在动物意识领域、泛意识研究领域，也是一样的。动物不能开口说自己有意识，那只能随人怎么说怎么了了。更何况，即使八哥开口说自己有意识，也不能作为最终判决性证据。

为什么？想想人自己：各种宿命论论证人并没有独立自主的意识、没有真正的自由意志，一切都是上天安排，都是神鬼操弄的。

今早我听《三国演义》，说道孙策身亡的事情。本来孙策被刺了几十枪，肯定要挂了，说来了个野和尚是华佗师弟，给他逆天治疗，保住他的命，交代他百日不可动怒。结果呢？五十来天，孙策还是听闻曹操要打江东，一生气挂了。临死时，孙策说：天不假年啊。

嗯嗯嗯，一切都是老天安排的，万般不由人！即使你此刻意识到什么，可能都是被操控的。也就是说，没有意识，只有按剧本的表演。这就是宿命论。

在宿命论之下，意识、意志、主体……这些现代哲学讨论的问题，全部都是伪问题。

进步想一想，在笛卡尔之前，现代智人10万年历史上，绝大多数的时间中都是宿命论笼罩之下。比如在中世纪一千年，哲学家讨论的不是人的主体性，而是上帝的主体性。

我的意思是说：类似问题不是自然科学问题，而是哲学问题，是人类主流价值观的流变问题。通俗地说，大家都认为人是主体、不需要听上帝的吩咐时，人才真正成为主体；大家都认为人有自我意识、自由意志而可以摆脱上帝的操控时，人才真正有意识、有自由意志。

用休谟的话说，这些都是“应当”问题，而不是“是”。换言之，这些问题本不应、也不可能由自然科学所解决。不管怎么设计实验，“应当”不能彻底被澄清。

可是，当代哲学中道德问题的自然科学化愈演愈烈。比如，把“善”概念转变为“利他”，再从进化论角度解释利他的起源，尤其解释人类道德的起源。这是对“是”与“应当”的混淆。是本来推不出应当，应当也推不出是，可是现实中一直在这样做，本质上是扭曲、误解和篡改。在我的有限技治理论中，称之为治理转译和治理误译。

在AI领域，典型的就是AI价值对齐。无论是效用对齐，还是推断对齐、流形对齐，都是想把应当转化为是，即人类价值观的算法化。

必须要强调：我并没有完全否认哲学伦理学自然科学化的价值，而是在说TA只能作为诸多研究进路中的一种，而不是唯一的进路，更不是唯一正确的进路。从本质上说，自然科学化的哲学能给哲学家以新的启发，而不是问题的最终回答。

当然，既然AI觉醒问题本质上是价值观的选择，哲学自然科学化、道德学自然科学化的声音够大，被绝大多数人接受，AI就可以成为主体、就可以有意识。重要的问题不在于此，而在于：这样的论断意味着人与AI的关系被重新安排，AI被人类赋予特殊的权利与义务。

反过来说，这意味人对自身位置的重新理解，即主体观的新判断。

智能体（agent）也是如此。从技术上说，智能体只是得到调用其他app的能力。如果有人将这种能力称为主体性，那TA就是主体。类似的论证很容易做出，关键是agent是主体的观念要被主流社会价值观所接受。在这个例子中，我们很容易明白：主体性如何被功能性地解释为“能调用其他app”。因此，这些看似很理论化的研究，背后牵涉的是人与智能体关系的重新安排。

在未来，哲学自然科学化只会愈演愈烈，很快人类不再有价值观问题，只剩下科学问题。但是，剥开科学的面纱，古老的价值观问题并不会被解决。再往后，可以预见：科技时代之后，还会有别的时代，价值观问题又会全面复兴。

记住：即使从1543年《天体运行论》算起，科技时代也不到五百年，而作为基督教世纪的中世纪也有一千年。看似坚不可摧的东西，很快会在历史中融化。