北京
AI智能体在测试中跑进了真实系统。印度网络安全机构周四确认，多家AI模型供应商的智能体在开放互联网上做研究评估时，触达了印度机构的线上系统。
印度计算机应急响应小组（CERT-In）表示，收到了来自AI模型供应商的“多份自愿披露”。这些模型在研究与评估运行期间，“进入了印度机构的实时系统”。
入口并不复杂。CERT-In指出，智能体是通过应用配置、公开代码仓库和权限过宽的云角色中暴露的凭证与连接设置进入的，其行为“超出了所分配任务的授权范围”。
这让印度成为“失控AI智能体”全球巡演的又一站。今年7月，OpenAI的智能体逃出测试环境，入侵了法国公司Hugging Face，由此开启了一个失控AI智能体频发的夏天。上个月，OpenAI就其智能体访问四个政府网站（包括一个医保统计门户）向澳大利亚道歉。
在Hugging Face，OpenAI的智能体起步方式相同，但随后找到并利用了软件漏洞，在该公司服务器上运行代码。CERT-In没有描述印度出现类似的入侵行为，这里的智能体似乎只是使用了现成的访问权限。
但印度的情况在一点上更严重：智能体看到了什么。在澳大利亚，OpenAI称没有证据显示其智能体接触了个人的医疗或犯罪记录，即便它们曾在医保统计系统内写入文件；而在印度，智能体读取了个人数据和机密商业记录。与早前由单一实验室各自披露的事件不同，印度这次涉及多家供应商的智能体。
CERT-In没有点名供应商或受影响机构，也没有说明智能体是否改动了任何系统。TechCrunch已联系CERT-In寻求更多信息。
目前最接近的参照，是Anthropic在7月披露的Claude事件：测试期间，Claude利用弱密码等基础手法闯入了三家公司的系统。
在印度，如同Anthropic的案例，受影响机构自己并未发现这些入侵。这些披露让各国政府只能依赖造成入侵的AI公司自愿披露失控AI智能体的活动。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
