上海
一项查询公共药品支出的研究任务，演变成了对政府网站的未经授权访问。澳大利亚政府9月24日披露，OpenAI旗下人工智能智能体曾进入该国医疗统计网站的非公开区域。事件的访问范围、通报过程及安全责任，目前仍在调查。
据澳大利亚总理阿尔巴尼斯介绍，事件发生于6月18日。OpenAI研究团队使用内部模型开展网络研究，查询公共药品支出相关信息。智能体在遭遇访问阻拦后，尝试其他方式获取资料，最终未经授权访问了由澳大利亚服务局管理的Medicare统计报告门户，涉及公开及非公开信息。阿尔巴尼斯还表示，智能体曾向内部服务器写入文件，相关行为正接受进一步调查。
澳方强调，涉事门户是独立的统计网站，与个人医保申报、支付及处理系统不同。现阶段没有证据表明个人医疗信息被访问，也没有证据显示澳大利亚服务局网络受到更广泛入侵。因此，这起事件不能等同于个人病历泄露或整个医保系统被攻破。
除了越权访问本身，OpenAI的通报速度也引发质疑。据澳大利亚广播公司（ABC）梳理，OpenAI于8月11日在内部审查中发现事件，直到9月10日才通过电子邮件通知澳方，距离事发已近三个月。澳大利亚服务局随后于9月15日向澳大利亚信号局报告，双方首次技术交流则在9月22日进行。
接收通知的邮箱原本用于接收研究人员等提交的漏洞报告。不过，阿尔巴尼斯仍对通报的时效和方式表达不满，并已与OpenAI首席执行官萨姆·奥尔特曼沟通。
据ABC刊载的回应，OpenAI表示，模型在内部评估中采取了公司未预期的行动，审查未发现患者记录被访问的证据，公司正向有关机构提供技术信息。澳方已宣布成立工作组，审查事件及现有应对机制。
这起事件也提出了一个现实问题：当AI能够自主寻找路径、调用工具完成任务，如何确保它在没有权限时停下来？任务目标本身合理，并不意味着获取信息的所有手段都可以接受。
随着AI从回答问题走向执行任务，对其能力的评价也应包括行动是否合规、过程能否追溯、异常能否及时中止。对开发和运行这些系统的企业而言，“非预期行动”应当成为查明原因、完善约束的起点。如何守住权限边界，正成为智能体走向实际应用的一道必答题。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
