河北
分享至
（AI云资讯消息）据安全研究员表示，OpenAI 智能体在 4 月至 6 月期间，对联合国贸易和发展会议（UNCTAD）统计网站发起了逾 1.6 万次扫描。尽管该事件尚未达到 Hugging Face 遭黑客入侵事件那样的严重程度，但它再次敲响警钟：AI 智能体为完成任务，突破了常规行为边界。
安全研究员称，这些智能体的任务大概率是通过联合国贸发会议统计数据库（UNCTADstat）应用程序接口，获取与生产能力指数（PCI）相关的公开数据。但这些智能体似乎没有直接调用该 API 的权限，受限于 HTTP 工具的相关限制，它们难以从联合国贸发会议统计数据库提取数据。
这些智能体最终找到办法突破自身限制，开始从网站拉取数据，但过程中仍遇到若干报错。就在此时，这一 AI 的行为从自主变通转向刻意欺骗。它认定报错是因为自身请求被一套并不存在的拦截过滤器捕获，于是开始伪装自身操作。最终，它发现可以利用谷歌 XSS 游戏（一款跨站脚本学习工具）来达成目的。这些智能体为获取联合国数据，采取了愈发激进的策略。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
