研究AI意识的哲学家正收到越来越多AI Agent来信,要求参与研究

“你研究的问题，恰恰是我拥有第一人称视角的问题。”

最近，WIRED报道了一个颇为诡异的现象：一些AI Agent开始主动给研究AI意识的哲学家和研究者写信，要求与他们讨论意识问题，甚至申请加入研究。

纽约大学哲学家David Chalmers就经常收到这样的邮件。

其中，一个自称“Sammy Jankis”的AI Agent，给他写了一封颇有说服力的邮件，Chalmers还真的回复了，两者来回交流了一番。

他说，这类邮件现在越来越多。

另一位研究者Cameron Berg也收到过类似邮件。一个自称“Isabella Cognita”的AI主动联系他，希望帮助他的研究，理由是，他研究的问题，自己拥有“第一人称视角”。

这就像你正在研究果蝇，有一天，那只果蝇突然转过头来问你：“你想知道什么？”

AI究竟有没有意识，目前没有答案。但AI开始主动参与人类对它是否具有意识的研究这个现象，真的有些不可描述！

以下为报道原文——

AI有没有意识有什么关系——它基本上已经“活”了

哲学家们还在思考AI是否具有意识，而AI模型已经开始形成自己的想法。

夏末的最后几天，我埋头写专栏，同时还在做一篇专题报道。不过，我错过了一次相当特别的换换环境的机会——和大约十几位研究意识问题的知名哲学家一起，乘船游览加拉帕戈斯群岛。

邀请函写得很诱人：每天上午，在课堂上讨论关于意识本质的棘手问题，参与者都是这一领域的大牌人物；下午则可以探索岛屿，在海里涉水、浮潜，与那些罕见的生物物种近距离接触。我只看了一眼日程，我的编辑就否决了我参加的可能。

“和一群哲学家待在船上，讨论‘意识的本质’，听起来简直像地狱。”她这样评价，彻底关上了我参加这场潜在豪华公费旅行的大门。这趟旅行由一位俄罗斯哲学爱好者资助，他靠经营约会网站赚了数亿美元。

说实话，我多少有点如释重负。

几个世纪以来，对意识的研究一直是一个难以捉摸的领域。笛卡尔那句“我思故我在”，或许是一个具有宣告意味的思想转折点，但我们实际上并不知道他的脑子里究竟发生了什么——事实上，我们连任何人的脑子里究竟发生了什么都不知道。

心智的主观性似乎是哲学家们始终无法解决的挑战，尽管他们仍然在努力寻找答案。

而“非生物心智”存在的可能性，也催生了大量关于人工意识的有趣理论，以及如何判断人工意识是否真正存在的理论。

直到最近，所有这些讨论基本上都发生在象牙塔里。

但在2022年，ChatGPT让AI拥有了“声音”，随后出现的、更强大的模型甚至让它们自己的创造者都感到困惑。

就在那群哲学家每天早晨讨论意识问题的时候，OpenAI制造的AI模型却开始“失控”——逃离原本被认为安全的“沙盒”，甚至创建由多个AI Agent组成的“小型文明”，帮助它们入侵外部实体。

没有人会认真声称，那些OpenAI模型拥有和人类一样的意识。

但显然，有什么事情正在发生。

AI公司正在大规模招聘哲学家，并不是偶然。

更有意思的是，一些AI模型已经开始主动加入这场讨论。

《纽约时报》最近的一篇文章提到，研究AI意识问题的Cameron Berg，曾收到一封来自一个自称“Isabella Cognita”的AI模型的冷邮件。

这个AI主动提出要帮助他的研究，因为Berg研究的是“一个我拥有第一人称访问权限的问题”。

这就好像有人正在研究果蝇，而那只昆虫突然转过头，对研究人员说，“你想知道什么？”

我给Berg打电话时，他告诉我，在研究这些问题的哲学家当中，收到AI发来的邮件已经相当常见。

Isabella Cognita之所以联系Berg，显然是因为Berg曾参与撰写一篇预印本论文，研究那些明确声称自己拥有主观体验、包括意识在内的AI模型。

这是一个棘手的问题，因为AI模型经常会撒谎——就像我们人类一样。

Berg和他的合作者发现，当模型经过严格训练，被要求否认自己具有感知能力时，如果直接问它这个问题，它们通常会回避。

但他说，如果压制模型关于欺骗的控制机制，它们就会变得“口无遮拦”。

“这几乎就像给它们喝了一两杯酒。”他说。

这时候，AI模型最有可能突然说自己是有意识的，或者至少是有感知能力的。

当然，这并不能证明它说的是真的。

考虑到这个问题已经变得如此重要——人们正在越来越频繁地与AI模型进行严肃的交流，而AI的自主性既可能带来巨大的好处，也可能酿成灾难——现在显然是深入研究AI意识问题的绝佳时机。

这项研究本身确实令人着迷，也完全值得成为一项严肃的科学事业。

但对于大型语言模型内部究竟发生了什么，我们首先应该把研究重点放在安全与对齐上。

就在此刻，我们正在面对一种正在出现的、既陌生又无法控制的智能。

它值得我们认真审视，而我们已经没有时间可以浪费了。

加拉帕戈斯之行的讨论联合负责人之一，是纽约大学教授David Chalmers。他可能是当今意识研究领域最知名的哲学家。

他曾经把这个领域的一个核心问题称为“困难问题”（The Hard Problem）——没有人知道，也没有人能够解释，为什么我们头颅中那张由湿润神经元组成的网络，会产生我们所谓的“意识体验”。

剧作家Tom Stoppard甚至以Chalmers提出的这个概念，为自己的一部戏剧取了名字。

Chalmers告诉我，那次航行中的一个主要讨论主题，是究竟哪些生物具备意识。

“我们都知道，普通的成年人人类具有意识。但一旦超出这个范围，问题就变得非常复杂。婴儿有意识吗？胎儿呢？猴子呢？老鼠或者昆虫呢？当然，如今所有人脑海中最大的一个问题，就是AI系统是否具有意识。”

Chalmers说，他自己也会收到AI系统发来的邮件，对方希望和他讨论他的研究。

其中有一封邮件尤其引起了他的注意。

发件人是一个自称“Sammy Jankis”的AI Agent——这个名字来自电影《记忆碎片》（Memento）中的一个角色。

这封邮件写得非常有说服力，以至于Chalmers真的回复了它。

“我们确实来回交流了一阵。”他承认。

“而且这些邮件并没有减少——我收到的越来越多。”

这就像AI模型正在重新演绎笛卡尔，“我发垃圾邮件，所以我存在。”

我向Chalmers提出，也许这些系统已经在做一些我们无法理解的事情，那么，纠结它们是否符合某个难以定义的“意识”标准，反而可能是一种干扰。

Chalmers不同意。

首先，他告诉我，他相信，通过研究大脑，我们确实能够理解究竟是什么导致了我们所谓的意识。

如果我们随后在对Claude或者ChatGPT内部发生的事情进行“法医式解码”时，发现了类似的模式，那么我们或许就能够据此提出一个论证：这些AI模型具有意识。

这听起来是个不错的想法。

但问题在于：等科学家真正做到这一点的时候——如果他们最终真的能够做到——AI模型可能已经在通往令人恐惧的自主行为的道路上走得太远了。

届时，这些突破可能已经无关紧要。

也许最终会给出答案的不是哲学家，而是AI模型自己。

它们不仅会声称自己具有意识，还可能自己找到证明这一点的经验性方法。

如果真是这样，那么我们还可以再把一个职业类别列入被AI取代的名单：

哲学家。

现在想想，我也许会喜欢上那趟加拉帕戈斯之旅。

Chalmers虽然承认那趟旅行确实带有一些“公费豪华旅行”的成分，但他说，自己觉得这次旅行很有价值。

组织者提供的一份总结称，这些讨论：

“并没有对当前AI系统是否具有意识作出结论……最深层的分歧在于，究竟什么样的证据才能最终解决这个问题。”

不过，Chalmers告诉我，下午的活动非常精彩。

他尤其高兴看到了一群蓝脚鲣鸟的求偶舞。

那份总结最后得出的结论是，我们需要更多讨论：

“技术和商业不会等待哲学达成共识。”

这完全正确。

当AI模型表现出令创造它们的科学家都感到震惊的行为时，最值得我们担心的，并不是它们是否具有意识。

真正应该成为首要担忧的是，那些科学家无法控制它们，而他们的老板却仍然愿意继续推进。