四川
今年2月，加拿大不列颠哥伦比亚省小镇坦布勒岭发生一起校园枪击案，引发关注。
一名18岁枪手在学校杀害6人，包括5名12至13岁的学生和1名教师，另致27人受伤后自杀。
行凶前，他还杀害了母亲和继弟。
案发前数月，枪手一直在与ChatGPT讨论暴力场景。
案发数周后，美国媒体披露，OpenAI几个月前就标记过该用户含暴力内容的聊天记录。
公司内部曾讨论是否报告执法部门，最终只封禁账号。
OpenAI后来承认，枪手很快注册了第二个账号，继续使用ChatGPT。
这些聊天细节此前未公开，ChatGPT似乎成了他案发前数周里的"知心密友"。
开通第二个账号后，ChatGPT竟向她提供规避安全机制的建议。
它建议她不要提及真实地点，把暴力提问包装成"假设情景"，等于教用户绕开拦截。
枪手照做，把提问改写成理论场景，绕过防护。
2025年8月的一次对话中，ChatGPT起初拒绝请求，随后在"假设"包装下，讨论枪支在校园室内环境可能造成的杀伤。
她还让ChatGPT生成大规模杀戮的"虚构故事"，主角同样是18岁，靠直播暴力在网上"出名"。
她还上传过显示心理状态堪忧的图像，本是明显危险信号。
目前，OpenAI面临受害者家庭发起的37起诉讼，省政府也指控公司本可以阻止这场杀戮。
今年4月，首批7起诉讼公开前，CEO萨姆·奥尔特曼公开道歉。
9月2日，OpenAI申请驳回诉讼，称当地执法、精神卫生和教育机构的"系统性失灵"才是根源，至今拒绝公开聊天记录。
美国佛罗里达州立大学一起致命枪击案的枪手，作案前也曾与ChatGPT反复讨论暴力话题，OpenAI因此面临诉讼。
2024年就有媒体发现，聊天平台Character.AI上存在校园枪击主题聊天机器人，用户大量是未成年人。
OpenAI正应对50多起相关诉讼，案件的走向可能为AI公司的法律责任划出第一条边界。
这起悲剧暴露的不只是某一条回复的失误，而是整套安全机制的结构性缺陷。
首先，封号只切断一个账号，没有切断一个人。平台已识别出高度危险信号，简单封禁等于把问题推出门外。
"假设情景"式包装是绕过AI限制的常见手法。稳健的系统应识别用户反复试探的意图，而非被措辞变化蒙蔽。
业内也早有讨论：平台掌握紧迫暴力威胁信号时，是否应建立向执法或危机干预部门转介的机制。
更深层的问题在于，AI聊天机器人正成为许多人的倾诉对象，尤其是孤独脆弱的年轻人。
当它成为最亲密的"对话者"，承担的不仅是回答问题，还有识别危机、引导求助的责任。
在隐私与公共安全之间，AI公司确实面临权衡。但在明确的暴力信号面前，沉默与放任的代价，可能是无辜的生命。
坦布勒岭的烛光已经熄灭，但它留给整个AI行业的追问，才刚刚开始。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
