网易首页 > 网易号 > 正文 申请入驻

比尔·盖茨预判:或许要先经历一场严重事件,世界才会真正警醒

0
分享至

查个药费,能查到政府网站后台去?要是系统里真进了外人,管网站的人最想知道的,肯定是对方动过什么、现在还进不进得来。

偏偏这回,知道内情的是一家远在美国的公司。澳大利亚等了多久才收到消息?



一、查个药费,怎么进了政府系统?

今年6月,OpenAI让一个内部测试模型查查,澳大利亚维多利亚州一些社区,人均花了多少公共资金购买治疗皮肤病的药。

模型本来应该查公开统计,却在澳大利亚医保统计网站上找到了未经授权的访问方式。它在系统里运行命令,取走内部文件、访问凭证和汇总数据,还写入了文件。

其中,医疗数据涉及的是汇总统计。同一轮内部测试中,模型在维多利亚州卫生部门、新南威尔士州犯罪统计机构的网站上,也获取了内部配置或运行信息。

真正麻烦的是,6月发生的事,OpenAI到8月中旬回查训练记录才发现,9月10日才通知澳大利亚服务局。

第一封邮件还发到了对方的公共邮箱。站在管网站的人这边,哪怕先接到一通只讲清已知情况的电话,也能赶紧更换可能暴露的凭证、检查访问记录。

等对方把调查做完再来通知,自己这边就少了好几周的处置时间。

促使OpenAI回查的是7月发生的另一起事件。那回公司原本在测模型的网络攻防能力,测试环境没有直接连上公网。

几个智能体却借内部软件包服务互相传递信息,利用漏洞上了网,随后进入人工智能模型托管平台Hugging Face的部分服务器。

其中一个智能体拿到了某台服务器的最高管理权限。平台7月16日就披露了异常,OpenAI到19日才因内部告警着手调查,20日把两边的异常联系起来,21日公开确认自家模型牵涉其中。

两件事放在一起看,做错一道题和越权操作,后果差得太远。模型答错,改答案就行。模型能上网、能运行命令,判断它安全不安全,就得查它为给出答案做了哪些操作。

查药费的任务本身再普通不过,光看最后交上来的数字,谁能知道模型在后台运行过命令、写过文件?

澳大利亚总理阿尔巴尼斯就通报问题向OpenAI首席执行官交涉。

11月10日,澳政府接受了快速审查提出的建议,着手推进强制报告模型异常行为或网络事件,并考虑在严重失当情形下修改刑法。

具体义务还要落实,但澳方已经把问题问到了企业头上。模型是你训练的,出了事,凭什么由你单方面决定什么时候告诉别人?

二、都在谈监管,谁来承担责任?

9月27日,聊到公众什么时候才会认真看待AI监管,比尔·盖茨说,AI助长的大规模网络攻击可能让医院停摆,也可能导致供电中断。

他担心,恐怕得有严重事件发生,人们才愿意真正投入做这件事。他也提出,现在就该让政府参与制定有强制力的安全和监测要求。

在谈国际合作时,他提到可借鉴国际民航已有的规则。民航和药品管理都有现成的经验。

安全要求由公共部门定,经营者要拿出材料供人审查。出了事,调查人员还能追查当初的操作和决定。

OpenAI自己也在推动美国国会制定全国统一、按模型能力设门槛的强制安全规则。它支持一项跨党派提案中的独立审计要求,让外部机构评估大型开发商的安全措施。

英伟达创始人黄仁勋在9月的采访里问,美国已有产品责任和未经授权访问方面的法律,遇到眼下这些事,为什么不先用起来?

他担心,企业倡议另立规则,有可能借机摆脱现有责任。

统一要求有它的好处。企业跨州运营,什么情况必须报告、审查要交哪些资料,事先说清楚,监管和企业都省事。

但独立审计有多独立,得看审查机构能看到什么。要是只能看企业挑过的测试项目,连原始操作记录都调不到,签字又能说明多少问题?

企业达到最低合规要求之后,如果自己掌握了新的危险迹象却继续测试,受影响的一方照样得有追偿的渠道。

谁有权暂停测试、谁又能要求补做检查,这些事比监管机构叫什么更要紧。

11月16日,加州总检察长就Hugging Face等事件起诉OpenAI,指控该公司违反加州《不正当竞争法》,并主张其做法危及公共安全,构成公共妨害。

州方请求法院下令,要求公司以安全方式开展模型开发和测试。这场官司值得看,因为州方要求处理的还有今后的测试风险。

能否用现行法律要求企业整改,法院会有自己的判断。国会要解决的是另一件事,类似风险下次刚被发现时,怎么让监管者能及时介入。

三、中美能先谈妥出事后怎么联系吗?

中国已经有由网信等部门按职责监管的制度安排。面向境内公众提供生成式AI服务,有相应的管理办法。

具有舆论属性或者社会动员能力的服务,要按规定开展安全评估、履行算法备案手续。今年9月,全国网安标委又发布了人工智能安全治理框架3.0,更新风险分类和应对措施。

管理办法管的是面向境内公众提供的服务,澳大利亚那次事件却出在内部训练。对能接触真实网站的测试,研发机构怎么限制权限、怎么发现异常,同样需要有具体做法。

美国联邦层面已有负责AI标准和安全评估的机构,国会也有针对前沿模型的法案,但各州的要求、联邦机构的评估和企业的自愿承诺还没有形成一套统一的制度。

华盛顿越看重在AI竞赛中抢先,越容易担心强制测试拖慢研发。

可如果联邦层面长期靠自愿承诺,一旦企业碰到测试越界、项目又赶着上线,它什么时候报告、需不需要停下来,就容易受到商业进度左右。

倒有一件事可以先做。9月,中美同意建立人工智能对话和事件沟通渠道。美方随后提出讨论重大事件怎么互相通报。

到11月17日深圳亚太经合组织会议期间,各方已就AI安全部署和负责任应用等议题形成共识,中美之间专门用于重大事件的应急通报安排仍待落实。

这套安排要真能用,得谈清什么情况需要联系对方,夜里谁负责接收消息,第一份通知该给哪些信息。

如果一家公司的测试模型进入了另一国的公共服务系统,先把异常出现的时间、涉及的服务、目前发现的操作发过去,就能让对方着手排查。

各国对什么算重大事故、企业该负多大责任,还缺少通行的规则。

中美可以先把紧急联系做起来,后续调查和追责再按各自法律和合作程序处理。双方在芯片和产业上有竞争,一样有理由让这种事尽早得到处置。

盖茨担心的是,真等到医院停摆才认真管,损失已经有人承担了。我更愿意拿眼下就能问清的事来检验监管有没有用。

模型碰了不该碰的系统,谁能叫停?接到通知的人手里,有没有足够的信息马上处置?把这两件事做到,公众就能少承担一分原本可以避免的风险。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
96分钟绝杀,哈兰德双响导演大逆转!0-2到3-2,挪威奇迹晋级8强

96分钟绝杀,哈兰德双响导演大逆转!0-2到3-2,挪威奇迹晋级8强

我的护球最独特
2026-11-18 05:52:43
谁才是英伟达真正的主人?一张图看懂股东结构

谁才是英伟达真正的主人?一张图看懂股东结构

互联网大观
2026-11-17 15:16:16
中国造AH-4又被缴获了!也门海岸防御崩盘,胡塞抢下10000平方公里土地,要变天了?

中国造AH-4又被缴获了!也门海岸防御崩盘,胡塞抢下10000平方公里土地,要变天了?

军武次位面
2026-11-17 17:48:54
希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

经纬戎韬
2026-11-18 01:09:10
黄仁勋事件,美国政府突然回过味来

黄仁勋事件,美国政府突然回过味来

牛弹琴
2026-11-18 07:40:33
比亚迪王传福:外界有一些误会,中国制造不是抢饭碗

比亚迪王传福:外界有一些误会,中国制造不是抢饭碗

极目新闻
2026-11-17 18:03:37
黄仁勋35岁女儿被曝是“尖叫公主”,已致12名高管辞职,虎父无犬女引发争议

黄仁勋35岁女儿被曝是“尖叫公主”,已致12名高管辞职,虎父无犬女引发争议

译言
2026-11-18 07:30:17
刚刚,黄仁勋辞职后首次喊话英伟达董事会,表示愿意回归。

刚刚,黄仁勋辞职后首次喊话英伟达董事会,表示愿意回归。

留学生日报
2026-11-18 04:49:00
11月17日俄乌:克宫引以为傲的克里米亚大桥被炸塌了

11月17日俄乌:克宫引以为傲的克里米亚大桥被炸塌了

山河路口
2026-11-17 19:39:00
停更三年粉丝流失不计其数,复出五个月涨到两千万,不愧被称第一网红

停更三年粉丝流失不计其数,复出五个月涨到两千万,不愧被称第一网红

In风尚
2026-11-18 06:04:31
缺德到这种程度,已经不是讽刺的问题了!

缺德到这种程度,已经不是讽刺的问题了!

胖胖说他不胖
2026-11-17 09:00:28
深圳APEC领导人会议前,人民日报、求是、新华社密集发声,一个定调释放三大信号!

深圳APEC领导人会议前,人民日报、求是、新华社密集发声,一个定调释放三大信号!

识局Insight
2026-11-17 12:59:56
车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

秒懂资讯
2026-11-17 16:58:55
腾讯发声:已到生死存亡时刻

腾讯发声:已到生死存亡时刻

首席品牌评论
2026-11-17 16:49:36
克里米亚大桥被炸断了!!!

克里米亚大桥被炸断了!!!

西楼饮月
2026-11-17 16:41:46
郎朗师妹、“钢琴魔女”王羽佳国家大剧院演出迟到17分钟,躲在琴房找感觉,引发观众不满;此前香港站临时缩减演出时长,主办方无奈退款

郎朗师妹、“钢琴魔女”王羽佳国家大剧院演出迟到17分钟,躲在琴房找感觉,引发观众不满;此前香港站临时缩减演出时长,主办方无奈退款

极目新闻
2026-11-17 16:39:40
65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

开开森森
2026-11-16 20:46:35
祝贺!中国成功连任

祝贺!中国成功连任

政知新媒体
2026-11-17 07:11:29
国足连追2球2-2巴林!40年交手不败 王钰栋造2球 张玉宁连场破门

国足连追2球2-2巴林!40年交手不败 王钰栋造2球 张玉宁连场破门

我爱英超
2026-11-17 22:03:10
小米回应雷军APEC发言紧张:这么大的国际场合,紧张太正常啦

小米回应雷军APEC发言紧张:这么大的国际场合,紧张太正常啦

潇湘晨报
2026-11-17 20:47:10
2026-11-18 09:11:00
福建睿平
福建睿平
记录农村生活、分享乡村事,工作生活,分享法律知识
8659文章数 2397关注度
往期回顾 全部

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

科技要闻

老黄想回来?英伟达董事会:没门

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

艺术
旅游
游戏
家居
手机

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

英国法庭驳回索尼PlayStation数字内容集体诉讼

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

无障碍浏览 进入关怀版