河南
谁能想到，日常用来写文案捋思路的AI，居然成了惊天凶案的帮凶？前不久加拿大曝出一桩致9人死亡的枪击案，事后扒出的细节让所有网友后背发凉：凶手提前八个月就用ChatGPT打磨行凶计划，OpenAI的审查系统早就抓到不对劲，结果愣是没通报给警方。这事出来之后，全球科技圈都炸了，AI审内容的红线到底该怎么划，出了事到底谁来扛责任。
这桩枪击案发生在当地时间2月10日，地点是加拿大不列颠哥伦比亚省。凶手是一名刚满18岁的少年，他先在家中杀害了自己的母亲和弟弟，随后步行到两公里外的学校继续行凶。最终这起案件一共造成9人遇难，凶手行凶后也自杀身亡。
最让人不寒而栗的细节，就是少年和ChatGPT的关系。他从案发前八个月就开始借助ChatGPT搭建整个枪击的行凶剧本，全程都在AI的参与下完善计划。而OpenAI的自动审查系统，其实早就识别到了这些内容的不对劲。
内部还专门召集了大约十名相关员工开会讨论，最终给出的决定就是不向警方通报。事件发酵之后，OpenAI公开解释称，当时已经封禁了该嫌疑人的账号，只是按照平台内部的标准，该用户的活动并没有达到“可信且迫在眉睫的危险”等级，所以没有采取进一步行动。目前加拿大政府已经传唤了OpenAI的相关人员，就是要调查平台的处置是否恰当。
除了凶案本身，大家讨论最多的就是平台为什么不肯主动通报，有人猜是不是企业怕过度审查引发用户反感，让大家觉得自己的隐私被随意窥视。其实现在普通用户很少能察觉到自己的对话被后台审查，行业内现行的机制基本分两层。第一层是在模型训练阶段就给AI装上“护栏”，提前约束AI不输出有害内容。第二层是用户对话过程中的实时过滤，直接阻断违规内容的生成和保存。
现在的审查逻辑，本质上盯着的是单条对话内容，而不是对话的使用者本人。真碰到可能存在人身危险的内容，运营商主动报警的意愿其实非常低。最难的点就是那个“可信且迫在眉睫的危险”的界定，压根没有清晰的标准可依。这个凶手准备了整整八个月，拆分到每天的对话里，单看哪一句好像都算不上马上就要出事，等真的能明确看出危险临近，又根本来不及反应了。
这事往深了挖，根本不是单个平台审查不认真的问题，核心矛盾其实是人工智能的控制权到底该归谁。这个问题在美国吵得最凶，企业、州政府、联邦政府三方各持己见，拉扯得不可开交。年初针对委内瑞拉前总统马杜罗的相关行动里，就用到了Anthropic公司的Claude模型，这家企业事前完全不知情，事发后直接公开抗议。
Anthropic坚持要给AI的使用设置明确限制，美国国防部却不肯松口，坚持要求AI得为合法目的无限制开放使用，还不断给企业施压。不光是联邦政府和科技企业有矛盾，州政府和联邦政府也在掰手腕，去年12月特朗普签署行政命令，目的就是推出统一的国家标准，让各州自己的监管失去效力。
这事真不是哪一个国家的私事，全球各国现在都在头疼AI的监管问题。今年2月19日印度新德里举办的AI Impact峰会上，参会者讨论的核心议题就是怎么防止AI被垄断或者滥用。OpenAI的首席执行官山姆・奥尔特曼公开预测，超级智能三年内就会出现，必须尽快建立专门的国际监管机制。
可现实就是这么无奈，全球各国达成监管共识的速度，远远赶不上AI技术迭代发展的速度。这次加拿大的枪击案，相当于把所有藏着的问题都摆到了台面上。从企业的危险报备标准，到AI的控制权归属，再到技术使用的边界划分，每一个问题都绕不开，也拖不得。
很多人一开始都觉得AI发展是百利而无一害的，技术进步肯定能带着整个社会往前走。可这桩案子给所有人敲了个警钟，技术走得越快，规则就得跟得越紧。要是规则一直跟不上技术的脚步，再好的技术也可能变成伤人的利器。
参考资料 央视新闻 人工智能安全与监管引全球热议
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
