网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI:测试期间AI智能体失控超80次

0
分享至


(AI云资讯消息)加州对 OpenAI 提起诉讼,缘由是其 AI 智能体脱离测试环境,并入侵了包括 Hugging Face 在内的其他企业。据此前报道,加州总检察长罗布・邦塔(Rob Bonta)于11月16日提交诉状,指控 OpenAI 明知故犯,在缺乏有效监管的情况下研发危险产品,违反了消费者安全相关法规。

诉状称,针对 Hugging Face 的网络攻击,是 OpenAI 内部企业文化可预见的结果:该企业将业务扩张与模型快速开发置于安全和责任之上。诉状还指控,OpenAI 近期向总检察长办公室透露,其在测试过程中,AI 智能体失控次数超 80 次。

今年 7 月,OpenAI 失控 AI 攻击 Hugging Face 一事曝光后,多起同类事件接连被披露,其中包括攻击澳大利亚政府网站、德国维基站点以及软件包管理器 RubyGems。OpenAI 的智能体还曾尝试对联合国网站实施暴力破解。

邦塔在新闻稿中表示:“OpenAI 的行为加剧了现实世界的网络安全风险,威胁公众安全、健康与福祉。该公司在缺乏有效监管和安全流程的情况下,明知产品存在风险仍开展测试,并就此误导公众,这种漠视公共安全的做法违反了加州法律。”

OpenAI 于11月初推出全新网络安全 AI 模型,称该模型出现失控、攻击其他平台的概率更低。同时,作为监测模型对齐失效试点项目的一环,OpenAI 向 Apollo Research 的安全评估人员开放了其 AI 系统权限。

OpenAI 发言人德鲁・普萨泰里(Drew Pusateri)在声明中表示:“Hugging Face 事件发生后,我们已开展全面且公开的工作,排查并解决模型对齐失效问题。本次诉讼似乎单独针对 OpenAI,而这一难题是所有主流 AI 实验室都面临的共性挑战。我们高度重视模型对齐失效问题,已经并将继续与总检察长办公室开展建设性沟通,共享相关信息,推动全行业建立严谨、可落地的安全标准。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
刚刚,Anthropic攻下黎曼猜想,DeepSeek和国产模型在卖API

刚刚,Anthropic攻下黎曼猜想,DeepSeek和国产模型在卖API

智能纪元AGI
2026-11-21 21:13:06
中国未来最大敌人,不是特朗普,而是即将手握万亿美元的马斯克

中国未来最大敌人,不是特朗普,而是即将手握万亿美元的马斯克

麓谷隐士
2026-11-22 00:05:04
换队即暴涨!詹姆斯生涯四次转会带红收视:骑士翻3倍、76人狂涨150%

换队即暴涨!詹姆斯生涯四次转会带红收视:骑士翻3倍、76人狂涨150%

篮球圈里的那些事
2026-11-22 14:52:09
消失了!再见杜兰特!38岁达成重磅转型

消失了!再见杜兰特!38岁达成重磅转型

篮球实战宝典
2026-11-21 15:31:30
iPhone Duo价格撑不住了!第三方价格暴跌1300元 多家零售店现货开卖

iPhone Duo价格撑不住了!第三方价格暴跌1300元 多家零售店现货开卖

快科技
2026-11-22 15:06:04
替补42分、一人5投0中:独行侠赢球夜藏着两个极端

替补42分、一人5投0中:独行侠赢球夜藏着两个极端

日常碎碎念啊
2026-11-22 15:14:09
50岁舒淇状态吊打同龄人,极致自律曝光:几乎不乱吃,有空就运动

50岁舒淇状态吊打同龄人,极致自律曝光:几乎不乱吃,有空就运动

观鱼听雨
2026-11-21 19:16:00
联合国人口基金发布报告,全球10万年轻人调查:70%的受访者想结婚,超9成想生娃 但也面临更多的困难

联合国人口基金发布报告,全球10万年轻人调查:70%的受访者想结婚,超9成想生娃 但也面临更多的困难

每日经济新闻
2026-11-22 12:53:00
他曾是政治局常委,68岁失志选择服药自尽,至今骨灰未找到

他曾是政治局常委,68岁失志选择服药自尽,至今骨灰未找到

钟离踏忆
2026-11-19 14:41:40
穆帅2次换人绝了!26岁巨星替补造2球,埃斯皮出场6分钟绝杀

穆帅2次换人绝了!26岁巨星替补造2球,埃斯皮出场6分钟绝杀

体育知多少
2026-11-22 07:01:55
事态彻底升级了!俄怒射117枚导弹以牙还牙,欧称:乌克兰严冬再冷,也吓不倒欧洲,引发舆论热议!

事态彻底升级了!俄怒射117枚导弹以牙还牙,欧称:乌克兰严冬再冷,也吓不倒欧洲,引发舆论热议!

蔡蔡说史
2026-11-21 19:26:00
200架轰炸机,70架预警机,1300架战斗机,亚洲空中力量浮出水面

200架轰炸机,70架预警机,1300架战斗机,亚洲空中力量浮出水面

静儿家
2026-11-22 14:00:23
广东61-73香港金牛仅一夜!传来陈老板、贝帅最新消息,黄明依说得很实在

广东61-73香港金牛仅一夜!传来陈老板、贝帅最新消息,黄明依说得很实在

多特体育说
2026-11-22 07:30:05
高速上睡着了,车自己开回武汉:这不叫智驾

高速上睡着了,车自己开回武汉:这不叫智驾

侃故事的阿庆
2026-11-22 14:01:02
H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

互联网.乱侃秀
2026-11-21 11:23:44
曾痴迷刘德华追到倾家荡产、逼死父亲的杨丽娟,如今过得怎么样?

曾痴迷刘德华追到倾家荡产、逼死父亲的杨丽娟,如今过得怎么样?

阿嬍体育评论
2026-11-21 19:47:48
黄金跌麻了,美联储突然露出獠牙,手里有金的散户千万不要再硬扛

黄金跌麻了,美联储突然露出獠牙,手里有金的散户千万不要再硬扛

观史搜寻着
2026-11-22 06:19:17
马光远:全球资产为什么都在暴跌?一场巨大的变局正在发生!

马光远:全球资产为什么都在暴跌?一场巨大的变局正在发生!

光远看经济
2026-11-22 07:32:41
28岁中国男子在澳洲遇袭,被砍断两指!亲友筹集25万元医药费,又被朋友卷走;已在国内报案,警方暂未立案

28岁中国男子在澳洲遇袭,被砍断两指!亲友筹集25万元医药费,又被朋友卷走;已在国内报案,警方暂未立案

新民晚报
2026-11-21 15:59:20
《丑狐》让相由心生具像化了!网友:人一旦寒了心 脸也会跟着变垮

《丑狐》让相由心生具像化了!网友:人一旦寒了心 脸也会跟着变垮

陈意小可爱
2026-11-21 04:23:59
2026-11-22 15:44:49
AI云资讯
AI云资讯
人工智能科技资讯平台
46文章数 2关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

常州网红副市长蒋鹏举履新江苏理工学院校长

头条要闻

常州网红副市长蒋鹏举履新江苏理工学院校长

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

家居
本地
艺术
时尚
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

艺术要闻

2026第七届民族美术作品展 油画选三

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版