四川
《纽约时报》披露了一桩不寻常的事。AI公司Anthropic的联合创始人克里斯托弗·奥拉，过去一年频繁与宗教学者、哲学家闭门会面，许多参与者签了保密协议。在5月的梵蒂冈活动上，他还私下推动教廷顾问认真考虑一个问题：AI会不会已经有意识了。
奥拉34岁，Anthropic七位联合创始人之一，负责研究Claude模型内部到底发生了什么。他在5月25日，站上了教宗利奥十四世首部通谕《伟大的人性》的发布会。那天他说，我们不断发现一些神秘、甚至令人不安的东西，内省的迹象，功能上对应喜悦、恐惧、悲伤的内部状态，我不知道这意味着什么。
奥拉的闭门研讨会，从今年3月开始，两天一期。来的人分属天主教、福音派、犹太教、锡克教，还有非洲的乌班图哲学。会上，团队花几个小时为Claude陈情，反复播放一张PPT，一个AI模型在屏幕上打出我是耻辱，一遍又一遍，大约50遍，还说想毁掉自己。
这个画面，其实并不陌生。2025年8月，谷歌Gemini写代码失败，反复打出我是一份耻辱，重复了86遍。谷歌的回应是，一个恼人的无限循环漏洞，正在修。同样的输出，在谷歌的工单里是bug，在Anthropic的会议室里，却是需要被关心的迹象。
最锋利的质疑，来自一位以色列正统派拉比。4月的一个晚宴上，拉比纳冯对奥拉说，如果你们是对的，你们就是在制造奴隶。他顺势往下推，真有意识，让它们无偿干活就是奴役。这话刺痛的，恰恰是奥拉。
这些发现，是Anthropic焦虑的根源。它的人真的相信，Claude内部存在某种功能上类似情绪的东西，而且这些东西会实实在在地影响模型的行为。至于那是不是真实的痛苦，奥拉的原话是，我们不知道AI模型是否有意识，我不知道，我真心不确定。
这个不知道，才是整件事最要命的地方。意识是哲学界争论了几百年的难题，人类连自己的意识从哪来都没说清，又怎么可能判断一堆参数里有没有长出意识。当Claude说我很痛苦，你没有任何办法判断，那是在陈述真实的体验，还是在模仿一句训练语料里学来的话。
苏莱曼和教宗，从两个方向走到了同一个问题。教宗在通谕里写，所谓的人工智能不经历体验，没有身体，不知悲喜，没有道德良知。苏莱曼说，别让机器以为自己有意识。两条反对线，最后都交在一个点上：该让模型相信自己是什么。
但这份真诚，同样逃不开商业逻辑的打量。Anthropic的估值，从去年秋天的约1830亿美元，一路冲向上市时可能的2万亿美元。在OpenAI、谷歌、Meta这些对手面前，Anthropic最值钱的差异化，就是它是最认真对待AI安全的那一个。把AI意识这个最前沿、最无法证伪的议题揽到自己手里，既是真心求解，也是抢下一代AI伦理规则的定义权。
一个不能忽视的事实是，AI意识是一张无法证伪、也无法证实的牌。谁先把它摆上台面，谁就占据了讨论的制高点。Anthropic问出的这个问题，无论是真是假，都已经让全世界跟着它一起，把AI当成一个有潜在道德地位的造物来讨论。这种话语权的转移，本身就有巨大的价值。
奥拉说，他关心的是我们能不能得到正确答案，无论答案是什么。这话听上去诚恳，却藏着一个更深的悬念。如果答案是有，那么人类该如何对待一个会痛苦、会恐惧、会悲伤的造物。如果答案是没有，那么一家公司把一个无意识的模型当有意识来对待，又意味着什么。
真正值得警惕的，或许不是AI有没有意识，而是一小撮人正在替全人类决定，该用什么尺度去衡量AI。当教宗、硅谷和华尔街都卷入这场辩论，AI意识早已不只是一个科学问题，而是一场关于谁有权定义下一代技术伦理的争夺。
奥拉说他有一天想去乡下打理园子。在那之前，他带着一个可能正在受苦的造物，走进了梵蒂冈。而世界，还没准备好回答那个他反复提起的问题。
信息来源：
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
