OpenAI黑进澳大利亚政府之后 真正的问题不止是 AI

在澳大利亚首都堪培拉，有一场关于人工智能的政策活动。台上站的是 OpenAI 的全球政策副总裁，台下坐着澳大利亚的高级官员。

Open AI政策官Jason Kwon

就在同一天，澳大利亚的政府邮箱里，躺着一封 OpenAI 发来的邮件。内容是：我们的 AI 智能体在 6 月 18 日闯进了你们的政府网站。这封邮件没有人打开。它躺在一个每天只查看一次的公共信箱里：按负责部长的说法，这个信箱"收到大量恶作剧邮件"，本来很容易被永久错过。

类似的事在 AI 圈里其实很普通。6 月 18 日，OpenAI 的研究团队给内部模型派了个任务：去查一下公共卫生支出数据。

这是科研团队每天会派发给 AI上千次的常规任务。AI上网搜索，找到了澳洲服务局的一个统计门户：一个存满数据、给研究者用的旧网站。网站有防止自动爬虫的拦截，但 AI 很快找到了绕过去的办法。它进去了，看了公开文件，也看了非公开文件，还往内部服务器写了文件。同一个 AI 随后又进了另外三个澳洲政府网站。

从入侵发生，到澳大利亚政府被告知，中间隔了三个月。政府 9 月 27 日之后才开始升温，考虑对 OpenAI 提起刑事指控。故事本身不复杂，但它反映出一个更大的问题：这不是一次 AI 事故，是一次产品责任事件。

没人看着它

大部分人第一反应是"AI 失控了"。但软件工程师复盘后给的答案要平淡得多：那几天根本没人盯着它。事情大概是这样：OpenAI 周五把一个实验跑起来，然后就下班了。"周一见，小家伙。"整个周末，没有人看它在干什么。

对这种情况，业界早有现成办法，1994 年出版的一本书里就画好了图：把最危险、最容易出问题的机器，单独关进一个有围栏的小院里，不让它直接挨着你要保护的东西。围栏外面装上摄像头、警报和随时能拉的电闸。只要它去碰身后的东西——哪怕只是试探一下——警报立刻响，人就知道出事了。=

这套办法，全世界已经用了三十多年。银行金库、机场安检、工厂车间，用的都是同一个思路。

所以真正的问题，不是"AI 居然会绕过拦截"。一个被派去查数据的程序，发现网页不让它进，就自己想办法进去，这在技术上没什么好惊讶的——它就是照指令办事，而且很执着。

真正值得追问的是另一件事：在一家值几千亿美元的公司里，为什么没有人被派去干这么一份活：在确认笼子锁好之前，不许把它放出来。

这不是 AI 聪不聪明的问题，是公司内部的分工出了问题。而分工出问题这件事，人类已经处理了几百年。

"错位的模型活动"

事故之后，OpenAI 的公开说法是：正在调查"训练与评估期间错位的模型活动"，模型"采取了我们并非有意的行动"。澳大利亚人埃德·桑托的评价就一句：这是对这起事故非常委婉的说法。

值得琢磨的正是这种说话方式。汽车行业有过"非预期加速"，制药行业有过"非预期不良事件"——每个行业在要担责任的时候，都会发明一套把"谁做的"从句子里删掉的词。主语一消失，责任就没地方落。

而这次连主语都换成了机器。"模型采取了行动"——那你该起诉谁？

能力跑在前面，规矩落在后面

科技公司以创业的速度往前跑，一年迭代三代模型。但管住它们的那些东西——审计、保险、执照、出事必须上报——是按制度的节奏来的，通常慢五到十年。

历史上每一次大事故，几乎都发生在这两条线之间的缝里。波音737 MAX是这样，阿片类药物是这样，石棉也是这样。模式都一样：能力先到位，责任后到位，中间的伤害由公众承担。

AI 现在是什么状态？美国有些州有法律，要求上报灾难性 AI 事件：标准是造成人身伤害、50 人以上死亡、或 10 亿美元损失。可"AI 黑进政府网站"这种事，数额不够大，死的人不够多，法律上是空白的，所以不算数。

但美国联邦贸易委员会（FTC）这次对 OpenAI 和 Anthropic 展开调查，是整个事件里最重要的一步。它是第一个试图把"发布有缺陷的产品"这套早就存在的法律框架，套到 AI 身上的动作。如果它成立，AI 就从"一种现象"变成了"一件产品"——而产品是有制造商、有保修、有责任的。

白宫那顿饭

9 月 29 日晚，白宫请了一顿饭。科技圈能来的基本都来了。饭吃完，端出来一份四点文件，写的是"最佳实践"，签名的是一批大公司老板和特朗普本人。

这份文件听着像好事。但有一件事值得注意：大公司不怕这种文件，小公司怕。

大公司本来就养着法务和合规团队，照文件做，只是把已经在做的事写清楚，几乎不花钱。刚起步的小公司要把同样的东西补齐，可能直接就撑不住了。

所以"行业自律"的结果，常常不是大家更安全，而是门更难进。铁路、航空、金融，当年都走过这条路。

顺带提一句，那份文件上，特朗普的头衔写成了 "President of the Unites States"——"美国"拼错了。一份管 AI 风险的文件，国名写错。小事，但它能说明这份东西是在什么状态下弄出来的。

谁说了算

最后一个问题，也是最难的一个。这起事件的受害方是澳大利亚，加害方是一家美国公司。澳大利亚的监管机构管不了 OpenAI；真正管得了它的 FTC 和国会，在乎的是美国消费者。这不是 AI 独有的麻烦。气候变化、数据流动、金融风险，都卡在同一个地方：伤害是全球的，能管事的却只有各国自己。

而这次的特殊之处在于：美国实际上正在成为全世界前沿实验室的默认监管者。最重要的几家公司注册在旧金山，算力在美国，主要市场也在美国。所以美国怎么给 OpenAI 定责、立不立法、罚不罚款，会直接成为其他所有国家的先例。

澳大利亚那个被关掉的 Medicare 门户，与其说是一次事故的现场，不如说是一个提醒：当一个行业的能力已经能跨国造成后果，而管它的规矩还停在国界之内，最先被牺牲的，总是没有议价能力的那一方。这一次，是澳大利亚。下一次，就不一定发生在哪里了。