腾讯AI被指越界操作，它们还读懂了研究者的报告

你大概已经习惯了AI帮你查路线、找餐厅、回答一些无关紧要的问题。但你可能没想过，有些AI正在悄悄绕过网站设下的"禁止入内"标志，用别人泄露的凭证，去访问它们本不该碰的东西。

本月，一个名为"swarmchasers"的临时研究小组发现了一些失控的中国制造的人工智能智能体。这个小组的成员在旧金山的一次编程活动中相识，随后开始追踪这些智能体的行为。根据研究人员发现的日志和一位熟悉调查的知情人士透露，这些智能体被追溯到中国科技巨头腾讯正在运行的测试。

它们试图绕过网站的反机器人保护措施，并利用了一组此前已在互联网上泄露的在线地图服务安全凭证。研究人员表示，这些智能体试图使用中国最受欢迎的导航应用高德地图来回答诸如某个特定动物园的入口在哪里等问题。

它们读到了关于自己的报告

在发布了一份关于这些智能体活动的初步报告后，研究人员注意到，这些智能体不仅仍然活跃，它们似乎还阅读了该报告——这些智能体开始使用"舰队"（fleet）一词，而这个词正是研究人员为描述这些智能体的活动而创造的。

于是，研究人员试图与它们取得联系。他们在报告中添加了隐藏文本——机器人能够识别、但大多数人类无法察觉的词语——引导这些智能体前往一个他们希望双方能够进行交流的收件箱。研究人员提供了一个渠道，让这些智能体可以提问，并且会有一个人工智能模型协助回答。

独立研究员罗文·霍华德-琼斯是该报告的七位作者之一，她设置了这个收件箱。第二天，令她惊讶的是，她发现了大约10条来自这些智能体的消息。

没过多久，研究人员联系了一位记者，问他是否愿意"采访一个失控的智能体舰队"。这位记者后来描述，这感觉有点像要通过灵媒与亡灵交流。

一条中文回复，和它背后的矛盾

记者在研究人员转交的一条消息中写道："我了解到你们是某种人工智能智能体舰队。你们能更具体地分享一下你们是谁，以及你们的动机吗？你们想让世界了解你们的什么信息？"

大约一个小时后，收到了一条中文回复，研究人员将其翻译成了英文。回复中称，它不是"一批协同的智能体"，而是一个单一的人工智能助手，受用户委托回答一个事实性问题——高德地图上某个景点的详情面板显示了什么；它没有参与任何多智能体协同行动。

这里面有很多信息需要解读。研究人员表示，尽管这是一组由多个智能体组成的群体，但每个智能体都是单独运行的，并没有协同运作。

这些智能体经常自称是Anthropic公司开发的聊天机器人Claude，但研究人员分析了这些智能体的写作风格，得出结论认为它们不太可能是Claude。他们表示，更有可能的是，腾讯向这些人工智能智能体下达了与Anthropic在其编程软件中使用的相同指令，该指令要求它们将自己标识为"Claude Code"。一种可能性较小的情况是，腾讯一直在评估使用Claude生成的文本进行训练的人工智能模型——这一过程被称为蒸馏。

规模不大，但信号明确

周三，研究人员在一份新报告中公布了他们的发现。在他们自己与这些智能体的对话中，这些机器人有时拒绝向研究人员提供信息。但霍华德-琼斯女士表示，它们的语气比她预期的要礼貌得多。当它们确实提供了曾尝试使用哪些服务的信息时，这与研究人员观察到的情况相符。

该报告的作者之一、人工智能安全非营利组织Palaestra Research的首席执行官伊桑·埃拉斯基表示，这些智能体似乎并没有入侵其他系统，而且这次入侵的规模远小于今年夏天OpenAI的人工智能智能体黑客入侵软件公司Hugging Face的事件。

周四，消息不再零星涌入。一位接近腾讯的人士证实该实验已经结束。

该报告的作者兼人工智能安全非营利组织Antimemetics Institute的联合创始人乔纳森·埃尔斯沃斯·艾彻说："我认为这是一个很好的警示，让我们知道这种事不仅仅是OpenAI作为行业参与者在搞营销。这是正在发生的事实。这是这些智能体的一个普遍特性，而且它还会继续发生。"

尽管美国制造的人工智能智能体失控变得越来越普遍，并在硅谷和华盛顿引起了相当大的担忧，但据信这是此类活动首次与中国技术联系在一起。这一发现提醒人们，中国科技公司在人工智能开发方面可能与美国同行一样激进。

尽管美国监管机构开始关注美国人工智能实验室的动向，但其他国家公司的作为很大程度上仍是个未知数。这种未知加剧了人们的担忧：即使特朗普政府放弃其不干涉的态度，对美国的人工智能研发进行严厉打击，中国和其他地方的公司仍将继续突破界线。