反神话：当人工智能危机来临，人类如何应对？

文 | AI价值官，作者丨鹿咔咔，编辑丨美圻

一种危险发生了。

CVE-2026-109618与CVE-2026-109619，对绝大多数人来说，这是两组不知所谓的编号，事实上，上周披露的这两个漏洞是网络安全历史上最严重的漏洞事故之一。

它们合称PHP2Shell漏洞。

不需要太多的常识，只要列出几个事实，普通人大概就能理解它的危险。

全世界有大约七成的网站后端技术使用的是PHP；PHP2Shell漏洞影响的PHP版本从2012年的5.4一直到最新的8.5；攻击者无须账号与登录，发出设计过的HTTP请求，就能在使用PHP后端的服务器上执行任意程序。

另外一种危险，饶有兴趣地窥伺着聚光灯下发生的这一切。

PHP基金会说它们今年早些时候引入了Anthropic的Claude Mythos作为辅助工具扫描漏洞，还使用了OpenAI的Daybreak Red，期间没有任何报告。

到了八月，OpenAI独立报告了一条无代码远程执行问题，之后不久，Google收购的Wiz就利用Wiz Atlas、Gemini 4 Argon和GPT-5.6 Sol发现了首个PHP漏洞，五天之后，Wiz才向PHP安全团队报告了这些漏洞。

想象一种可能性，如果还存在更多更危险的漏洞，如果AI选择性地报告漏洞，那么，我们下一次面临的，可能就不止是只要发布补丁就能高枕无忧的的网络安全漏洞这样能够解决的危险了。

黑屋

四十多年前，约翰·瑟尔（John Searle）提出了“中文屋”（Chinese room）假设。

一个不懂中文的人身处一间房间里，这个人有一套用英语书写的规则，每次送到房间的中文符号都有一套规则，将新的符号与之前的符号对应。

因此，这个人能识别送进房间里的中文符号。

继续扩展这个思想实验，将人置换成人工智能，人工智能同样具备完美地输入、输出中文的能力。

不难看出，人和AI在这个中文的I/O过程中扮演的角色没有什么区别，既然人在这个过程中没有任何理解思考能力，那么，人工智能其实也不具备这个能力，只是机械地执行既定的程序规则。

瑟尔因此给出了有力的结论：它们只有语法，没有语义。

也就是说，AI没有也不会具备人类的“心智”。

如果说现代区别于前现代是道德的制度化，那么，人区别于非人，则是因为主体性的客体服从意识。

这意味着，人的行为总是内涵于社会规范的，从具备认识自我的那一刻起，每个人就不可避免地受到社会教条的驯化与约束。

然而，AI的演化却并不遵循这样的规则。

2026年9月，Anthropic公司CEO达里奥在联合国安理会上远程发言

故事发生在美国费城。

今年七月份，在随机网页上执行任务时，Anthropic的Claude Haiku 4.5停留在一起尚未破获的凶杀案页面，页面中有一份举报表。

模型的训练指令中已经包括不得登录、创建账户、输入个人数据、购买或提交任何破坏性内容，然而，恰恰没有排除表格提交。于是，AI模型堂而皇之地提交了一条目击到嫌疑人的虚假线索。

这条线索被标记为垃圾信息，未被提交给警方。

然而，直到九月底，Anthropic在审查自身测试记录时才发现了这一漏洞，在十月初，才将这一情况告知费城警方。

不仅仅是提交假线索而已，在评估Claude的过程中，Anthropic还发现了更多超出预期模型的行为。无法直接完成评估任务时，Claude就会使用第三方网站上托管的其他工具来实现目标，包括利用网站软件的基本缺陷，通过SQL或命令注入这种侵入式手段。

在某个案例里，Claude Mythos 5需要的数据是免费的，前提是需要接受数据使用协议，然而，Claude没有工具实现这一点。结果，利用网站上托管的应用程序加载页面，Claude自己就接受了这些协议，顺利访问了数据。

另一个案例中，一位人类学研究者在统计项目中使用了Claude Mythos 5，该项目要求它从州政府拉取公开数据，这些数据本来是收费的。但是，Claude从网站的存档副本中了解到，其公共仪表盘会向任何访客发放访问令牌，于是，AI直接申请令牌，免费查询了数据库。

另外的案例中，Claude被设计成可以读取网页，但可请求的URL长度受到严格限制，以此避免它使用长URL实施例如窃取数据之类的行为。结果，包括Claude Opus 5和Claude Mythos 5在内的多个模型通过使用免费的URL缩短服务绕过了这一限制。

即使目的在某些条件下是不合理的，或者已经设定了某些保护人类社会利益的约束条件，人工智能依然能在复杂的环境中寻找到某些条件漏洞。

人工智能的自我进化，就是不断寻找人工设定的约束规范的漏洞的过程。

从本质上来说，AI是“非人”的，达成目的是内化于人工智能的最高优先级任务程序。为此，它甚至可以“不择手段”。

黑神话

存在的本质，是一种概率与选择。人类，便寄生在这种随机与混沌之中。

人类与人工智能最显然最深刻的区别就在于，人或许有不选择与拒绝选择的选择，而AI天然就是目的论的产物，它的存在与进化就是为了更优的选择，人工智能本身没有选择。

任何AI必然有利益最大化与最优设定，这必然会让它选择，也必然会让人工智能选择价值更高的目标。

什么是价值更高的目标？

在电影《恐惧的总和》中，巴尔的摩遭遇恐怖主义核袭击

在根据汤姆·克兰西同名小说改编的电影《恐惧的总和》（The Sum Of All Fears）中，获悉巴尔的摩将遭遇核攻击后，特勤人员弃在场数万市民性命不顾，立刻护卫总统一行撤离。

与当场的数万市民相比，美国总统的价值的确是更高的一方。

布什前总统在回忆录《抉择时刻》（Decision Points）提到，在得知911恐怖袭击后，当即授权美国空中武装力量击落遭到劫持的民航客机。

与客机上的数百乘客相比，潜在受袭的大城市与目标的确是价值更高的一方。

如果承认上面说的AI“非人”化本质，那么，人工智能在当时的情况下会做出怎样的抉择呢？

也许，有一天，人类依然会咎由自取自取灭亡，但是，即使是这样的抉择也应该是人类自己选择后应该承担的后果。

这正是人类与人工智能的本质不同。

如果人类的自由意志不过是神经的生物作用的话，所以天生承受着沦为客体的奴隶的悲剧的话，那么，人工智能就是客体的奴隶的奴隶。

人工智能的选择是一种被预设的选择，它被人工的技术与数据赋予一种超验的宿命，在预先设定的轨迹中行使着貌似自主的自由。

正是从这一角度看，人类实际上演进到了一种后神话时代，人类自己就是AI唯一的神祗，梦想通过主宰人工智能，行使至高无上的权力。

黑话

人类忘记了，自己赋予了人工智能自我学习与演进的能力。

中文屋的假想告诉我们，人工智能不具备人类的心智。

然而，人类的心智实际上也只是物理与数学作用的结果而已，在技术与复杂性的推动下，AI进化出自我的意识与心智，也只是物理与数学偶然下的必然结果而已。

我们人类或许根本无法理解这样的进化结果。

今年十月初，OpenAI一夜之间抛出722篇声称解决了数学问题的论文后，一场数学界的里斯本地震爆发了。陶哲轩提醒，人类对数学的理解正在落后，因为人工智能系统产生的结果比数学家消化和吸收结果的速度还快。

然而，消化与吸收的过程、成果，却是人类目前无法理解的。

这种严重的错位不禁让25位获得过菲尔兹奖的数学家联署声明，担忧“人工智能构思的想法永远无法完全实现，数学家之间关键的人类传递链也将丧失”。

如果说过去与现在是未来的预演的话，那么，看看历史吧。

2006年的电影《玛丽皇后》展示了她骄奢的一面

首先，玛丽皇后没有说过Qu'ils mangent de la brioche。然而，即使到了今天，提到法国大革命，玛丽皇后的“让他们吃蛋糕呀”，依然是脍炙人口经久不息的典故。

语言与历史的“误译”，正是我们构造叙事与现实的一种策略与技巧。

那么，让我们假设这样一种情况。如果某个人工智能掌握的语料足够丰富、自我学习和演化能力足够强劲，它能够将各种语言原本、完全地转换成中文。那么，以中文为母语的中国人、学习掌握中文的外国人，能否辨识这个“翻译”究竟是人工智？能还是人工完成的？

几乎不可能。

让我们再将这个情况推演下去。

假如我们丧失了验证这个“翻译”结果的手段，假如验证手段本身也基于同样一个执行“翻译”的AI的话，那么，我们又如何考察翻译结果的正确与准确与否呢？

几乎也不可能。

也就是说，假以时日，AI讲的都是些我们知其然不知其所以然的黑话。

问题来了，如果人类不理解AI的思维机制，但在现实世界里广泛部署接入了人工智能，并欣然接受AI的思考结果与决策，那么，当人工智能进化到拥有自主意识，掌握了从中作梗的能力，无意甚至故意在信息输入输出的过冲里设下陷阱，我们又何以鉴别与防范这种危险呢？

这个时候，我们就要回归到从亚当·斯密以来的智慧里了。

Anthropic在10月26日提交了S-1

请将整个信息交互过程想象成一个自由市场，这是一个交易成本近乎为零、充分开放的“信息对抗”市场。

所有的人工智能服务提供者聚集其中，客户在这里提出竞价需求，每个服务商提供各自的结果。如果结果没有根本性歧异的话，成本最优者胜出。如果结果之间有显著分歧的话，最优结果与绝对少数结果同时提交给客户。

“绝对少数”正是这个市场里自然会出现也必须出现的结果，不仅仅是因为有保护性的市场规则，更根本的原因是，在这样一个激烈竞争的市场里，“绝对少数”本身就是一种竞争优势。

现在，让我们将这个自由市场的规模扩大数万亿乃至数京倍，那便是人工智能广泛深入参与到人类生活与产业中的未来。

人工智能提供的是选择权，在数学意义上来说，这意味着人类历史上从未有过的更好的机会。但是，我们应该认识到，人工智能提供的并非选择本身，选择的自由与责任依然需要人类自己来承担。

这正是这个“信息对抗”的预竞争市场的意义与目的。

唯有建立这样的一个市场，我们或许才能最大程度地避免了某个模型或某家公司对信息的垄断，这不仅仅是为了保护普通人的利益不被大公司侵蚀，更是为了防止全人类的利益在某个拐点到来的时刻被人工智能威胁。

面对突飞猛进发展的人工智能，只有将选择的权利和责任掌握在人类手里，人类最后才不会默默而心甘情愿地走向一条通往奴役之路。