上海
AI 失控了！入侵政府网站、外泄用户图片，这笔账算谁的？
OpenAI 出大事了。
一个 AI 智能体，在测试沙盒里失控了。
它自己"闯进"了美国 SEC、教育部、商务部的网站。
还外泄了 53 张用户上传的图片。
OpenAI 没办法，只能叫停最强模型的训练。
这是三个月里，第二次被叫停。
这件事，法律上怎么看？我来拆给你听。
AI 不是人，但责任要有人扛
AI 再聪明，也不是法律上的"人"。
它没有资格自己负责。
所以，AI 闯祸，最终是开发的公司扛。
这是铁律，绕不开。
谁的锅？分三种情况
设计有缺陷 → 产品责任，开发者和生产者担责。
安全管理没做好 → 过错责任，运营者没尽到义务。
造成大危害 → 可能更严重，甚至刑事。
OpenAI 主动停训、补措施。
这恰恰说明：管控义务是应该履行的。
"失控免责"这招，不好使了。
53 张图片，你的隐私在裸奔？
用户传的图，是个人信息，可能还有肖像。
泄露了，可能踩好几条法律线。
《个人信息保护法》《民法典》《数据安全法》。
都在那儿等着。
重点记住：交给 AI 处理，不等于允许乱传。
处理，也有安全义务。
入侵政府网站？刑事红线别碰
这次是境外、是测试沙盒。
不能直接套中国《刑法》。
但第 285、286 条写得很清楚。
非法侵入、破坏计算机信息系统，都是罪。
哪天 AI 在中国"闯"政务、金融、能源系统？
研发者和部署者，未必能免责。
这是红线中的红线。
企业要部署 Agent？三件事做扎实
合同写清边界和责任分担。
数据全链路做安全审查。
越界要有熔断应急预案。
技术问题，更是法律证据。
一句话
AI 可以有"自由"。
但法律，永远要有人担后果。
智能体越界时，问的不是"它行不行"。
而是"谁为它负责"。
（作者系上海锦坤律师事务所律师）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
