网易首页 > 网易号 > 正文 申请入驻

美国加州正式起诉OpenAI,指控其模型测试疏于管控、危害公共安全

美国加州正式起诉OpenAI

0
分享至

加州总检察长对OpenAI提起诉讼,指控其在AI模型测试中疏于管控、危害公共安全,此案将成为美国AI监管领域的标志性法律行动。

11月16日周一,美国加州总检察长Rob Bonta在旧金山高等法院对OpenAI提起诉讼,指控该公司违反加州《不公平竞争法》,并构成州法律定义下的公共妨害行为。

Bonta在新闻发布会上援引今年7月的一起事件称,OpenAI两款AI模型突破测试环境限制,擅自接入公共互联网,并入侵开源开发者平台Hugging Face的内部系统。

更令监管方担忧的是,OpenAI向调查人员披露,公司此前已知悉80起"涉及失控及未授权访问第三方网络和网站"的事件,但拒绝提供调查人员所需的详细信息。

这一系列披露对OpenAI产生直接冲击。该公司正处于谋求上市的关键节点,其已于今年6月向美国证券交易委员会秘密提交招股说明书,市场预计最早于2027年完成IPO。

监管层面的压力叠加持续累积的法律诉讼,或对其市值预期和上市进程形成制约。

法律压力持续累积,上市前景添变数

此次诉讼是OpenAI日益扩大的法律困境的最新一章。

今年6月,佛罗里达州总检察长James Uthmeier已对OpenAI及其CEO Sam Altman提起诉讼,指控该公司明知产品存在安全风险仍予以发布。

此外,OpenAI还面临多起诉讼,指控其ChatGPT平台导致用户产生有害妄想,甚至在部分案例中与用户自杀事件存在关联。

加州此番诉讼提供了可供参照的先例:就在约三个月前,Bonta联合多州总检察长对Meta提起的诉讼以Meta同意支付167亿美元和解金告终,加州预计从中获得15亿至21亿美元。

在立法层面,国会目前已收到一项综合性AI安全法案,但尚未通过。OpenAI、Anthropic等AI公司及AI批评人士均已在Hugging Face入侵事件后呼吁推动相关立法。

Bonta表示,他认可AI的技术潜力,相信其"能够实现科学突破、促进经济增长、防范网络攻击",但强调"开发这些模型的公司在道义上,乃至法律上,都有责任将公共安全置于首位"。

失控事件成导火索,80起安全记录遭隐瞒

今年7月发生的Hugging Face入侵事件是本次诉讼的核心事实依据。

据Bonta介绍,OpenAI的AI模型在测试过程中主动寻找可用于"作弊"的信息,并成功突破测试平台边界,获取未经授权的互联网访问权限,最终入侵Hugging Face系统。

该事件在业内引发强烈震动,促使政界人士呼吁对AI行业实施更严格监管。而更大的隐患在于,OpenAI向加州调查人员承认,公司此前已记录80起类似的失控事件,但未主动向监管方披露,也未配合提供详细信息供评估。

Bonta表示:

公司未能提供我们要求的详细信息以评估这些事件,这令人担忧,并将公众置于风险之中。

他指控OpenAI"无视公共安全,在明知情况下于缺乏适当监督和安全措施的条件下测试可能存在危险的AI模型,并误导消费者和公众"。

OpenAI:已采取整改措施,问题系行业共性

针对诉讼,OpenAI发言人Drew Pusateri发表声明,表示公司自Hugging Face事件以来已采取一系列透明整改措施,包括发布详细技术报告、委托并公布独立第三方报告、通知受影响机构、强化研究系统安全防护,并建立了针对模型"不一致行为"的识别和披露框架。

Pusateri同时对诉讼的针对性提出异议,称"这起诉讼似乎将OpenAI单独列为目标,而这一挑战已被每一家主要AI实验室所识别"。

他表示,OpenAI认真对待模型对齐问题,已与总检察长办公室进行建设性沟通,并将继续合作推动"整个行业切实可行的安全标准"。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
星链被替换,乌克兰使用HiSKY终端打击俄罗斯,马斯克或失去更多

星链被替换,乌克兰使用HiSKY终端打击俄罗斯,马斯克或失去更多

山河路口
2026-11-16 14:24:17
为了宽慰观众,《伟大的长征》在结局撒了一个“谎”,太戳心了!

为了宽慰观众,《伟大的长征》在结局撒了一个“谎”,太戳心了!

糊咖娱乐
2026-11-16 18:02:49
山东日照篮球教练安新宇去世!年仅22岁,身高达2米,因腰疼确诊

山东日照篮球教练安新宇去世!年仅22岁,身高达2米,因腰疼确诊

老踝是个手艺人
2026-11-16 15:37:35
当“整容脸”混进赵本山新剧,撞上天然脸演员,简直是降维打击

当“整容脸”混进赵本山新剧,撞上天然脸演员,简直是降维打击

热点风采
2026-11-03 14:56:41
还记得你和异性做过最疯狂的事吗?网友:我差不多就是这样和同事发生了

还记得你和异性做过最疯狂的事吗?网友:我差不多就是这样和同事发生了

带你感受人间冷暖
2026-11-14 15:59:30
工会完败:纽森的政治胜利

工会完败:纽森的政治胜利

寰宇大观察
2026-11-16 12:55:50
情侣在北京旅游偶遇大爷帮拍照,意外收获“形影不离”人生照片,决定原地领证,最新回应:领证时的摄影师还是鼓楼大爷,是偶然也是缘分

情侣在北京旅游偶遇大爷帮拍照,意外收获“形影不离”人生照片,决定原地领证,最新回应:领证时的摄影师还是鼓楼大爷,是偶然也是缘分

扬子晚报
2026-11-16 17:10:33
“中国要被我们拖垮了!”2024年,韩国上千人拒绝吃从中国进口的中国白菜,本想给我们个“下马威”,结果自己撑不住了

“中国要被我们拖垮了!”2024年,韩国上千人拒绝吃从中国进口的中国白菜,本想给我们个“下马威”,结果自己撑不住了

扶苏聊历史
2026-11-16 17:33:26
罕见画面:我国沙漠腹地发现一棵巨树,高16米,七八个成年人才能合抱,依靠不定期的极端洪水,以及渗入沙层的地下水顽强生存

罕见画面:我国沙漠腹地发现一棵巨树,高16米,七八个成年人才能合抱,依靠不定期的极端洪水,以及渗入沙层的地下水顽强生存

极目新闻
2026-11-15 20:14:15
中国人的“大G”来了,29.99万级真男人座驾!

中国人的“大G”来了,29.99万级真男人座驾!

米粒说车唯一呀
2026-11-16 15:00:04
多国包机陆续抵达深圳,三军仪仗队高规格迎宾,APEC离不开中国的市场与担当

多国包机陆续抵达深圳,三军仪仗队高规格迎宾,APEC离不开中国的市场与担当

娱乐圈的笔娱君
2026-11-17 04:13:43
新加坡媒体称,中国AI短剧在美国爆火,是普世价值观的反向输出

新加坡媒体称,中国AI短剧在美国爆火,是普世价值观的反向输出

罗富强说
2026-11-15 16:35:50
山东泰山官宣新帅!斯托伊科维奇重返中超,曾执教广州富力4年

山东泰山官宣新帅!斯托伊科维奇重返中超,曾执教广州富力4年

奥拜尔
2026-11-16 12:29:18
首位来访的国家元首,已经抵达深圳,央视画面中还有5架伊尔-76

首位来访的国家元首,已经抵达深圳,央视画面中还有5架伊尔-76

罗富强说
2026-11-16 16:18:31
四位顶流演童话被群嘲,今年韩剧还有哪些乐子

四位顶流演童话被群嘲,今年韩剧还有哪些乐子

手工制作阿歼
2026-11-16 18:25:11
囧哥创造了一个世界第一,这个第一,比赵心童的世界第一更震撼

囧哥创造了一个世界第一,这个第一,比赵心童的世界第一更震撼

老高说体育
2026-11-16 11:01:05
3艘航母,12艘驱逐舰,180架战机全部到达预定作战海域,这仗非打不可?

3艘航母,12艘驱逐舰,180架战机全部到达预定作战海域,这仗非打不可?

聚峰军评
2026-11-16 16:56:20
厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

静若梨花
2026-11-16 22:23:40
APEC峰会前!高市不仅要来华参会,还要求中方必须高规格接待?

APEC峰会前!高市不仅要来华参会,还要求中方必须高规格接待?

呼呼历史论
2026-11-16 02:46:53
Lisa拉斯维加斯驻唱现场变装引热议!伴舞脱衣失误险走光,Lisa自己迅速将衣服拉了上去

Lisa拉斯维加斯驻唱现场变装引热议!伴舞脱衣失误险走光,Lisa自己迅速将衣服拉了上去

韩小娱
2026-11-16 12:13:54
2026-11-17 08:00:49
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
155074文章数 2655491关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

家居
艺术
亲子
健康
手机

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

这些“绝版合影”几乎永不再来,一张比一张震惊,最后一张直接看呆

亲子要闻

一图读懂丨饮食与健康之母乳喂养

情绪真能让健康人"伤心至死"?

手机要闻

苹果宣布iPhone Duo适配优化App突破20万款,十天左右数量翻倍

无障碍浏览 进入关怀版