网易首页 > 网易号 > 正文 申请入驻

比尔·盖茨预判:或许要先经历一场严重事件,世界才会真正警醒

0
分享至

查个药费,能查到政府网站后台去?要是系统里真进了外人,管网站的人最想知道的,肯定是对方动过什么、现在还进不进得来。

偏偏这回,知道内情的是一家远在美国的公司。澳大利亚等了多久才收到消息?



一、查个药费,怎么进了政府系统?

今年6月,OpenAI让一个内部测试模型查查,澳大利亚维多利亚州一些社区,人均花了多少公共资金购买治疗皮肤病的药。

模型本来应该查公开统计,却在澳大利亚医保统计网站上找到了未经授权的访问方式。它在系统里运行命令,取走内部文件、访问凭证和汇总数据,还写入了文件。

其中,医疗数据涉及的是汇总统计。同一轮内部测试中,模型在维多利亚州卫生部门、新南威尔士州犯罪统计机构的网站上,也获取了内部配置或运行信息。

真正麻烦的是,6月发生的事,OpenAI到8月中旬回查训练记录才发现,9月10日才通知澳大利亚服务局。

第一封邮件还发到了对方的公共邮箱。站在管网站的人这边,哪怕先接到一通只讲清已知情况的电话,也能赶紧更换可能暴露的凭证、检查访问记录。

等对方把调查做完再来通知,自己这边就少了好几周的处置时间。

促使OpenAI回查的是7月发生的另一起事件。那回公司原本在测模型的网络攻防能力,测试环境没有直接连上公网。

几个智能体却借内部软件包服务互相传递信息,利用漏洞上了网,随后进入人工智能模型托管平台Hugging Face的部分服务器。

其中一个智能体拿到了某台服务器的最高管理权限。平台7月16日就披露了异常,OpenAI到19日才因内部告警着手调查,20日把两边的异常联系起来,21日公开确认自家模型牵涉其中。

两件事放在一起看,做错一道题和越权操作,后果差得太远。模型答错,改答案就行。模型能上网、能运行命令,判断它安全不安全,就得查它为给出答案做了哪些操作。

查药费的任务本身再普通不过,光看最后交上来的数字,谁能知道模型在后台运行过命令、写过文件?

澳大利亚总理阿尔巴尼斯就通报问题向OpenAI首席执行官交涉。

11月10日,澳政府接受了快速审查提出的建议,着手推进强制报告模型异常行为或网络事件,并考虑在严重失当情形下修改刑法。

具体义务还要落实,但澳方已经把问题问到了企业头上。模型是你训练的,出了事,凭什么由你单方面决定什么时候告诉别人?

二、都在谈监管,谁来承担责任?

9月27日,聊到公众什么时候才会认真看待AI监管,比尔·盖茨说,AI助长的大规模网络攻击可能让医院停摆,也可能导致供电中断。

他担心,恐怕得有严重事件发生,人们才愿意真正投入做这件事。他也提出,现在就该让政府参与制定有强制力的安全和监测要求。

在谈国际合作时,他提到可借鉴国际民航已有的规则。民航和药品管理都有现成的经验。

安全要求由公共部门定,经营者要拿出材料供人审查。出了事,调查人员还能追查当初的操作和决定。

OpenAI自己也在推动美国国会制定全国统一、按模型能力设门槛的强制安全规则。它支持一项跨党派提案中的独立审计要求,让外部机构评估大型开发商的安全措施。

英伟达创始人黄仁勋在9月的采访里问,美国已有产品责任和未经授权访问方面的法律,遇到眼下这些事,为什么不先用起来?

他担心,企业倡议另立规则,有可能借机摆脱现有责任。

统一要求有它的好处。企业跨州运营,什么情况必须报告、审查要交哪些资料,事先说清楚,监管和企业都省事。

但独立审计有多独立,得看审查机构能看到什么。要是只能看企业挑过的测试项目,连原始操作记录都调不到,签字又能说明多少问题?

企业达到最低合规要求之后,如果自己掌握了新的危险迹象却继续测试,受影响的一方照样得有追偿的渠道。

谁有权暂停测试、谁又能要求补做检查,这些事比监管机构叫什么更要紧。

11月16日,加州总检察长就Hugging Face等事件起诉OpenAI,指控该公司违反加州《不正当竞争法》,并主张其做法危及公共安全,构成公共妨害。

州方请求法院下令,要求公司以安全方式开展模型开发和测试。这场官司值得看,因为州方要求处理的还有今后的测试风险。

能否用现行法律要求企业整改,法院会有自己的判断。国会要解决的是另一件事,类似风险下次刚被发现时,怎么让监管者能及时介入。

三、中美能先谈妥出事后怎么联系吗?

中国已经有由网信等部门按职责监管的制度安排。面向境内公众提供生成式AI服务,有相应的管理办法。

具有舆论属性或者社会动员能力的服务,要按规定开展安全评估、履行算法备案手续。今年9月,全国网安标委又发布了人工智能安全治理框架3.0,更新风险分类和应对措施。

管理办法管的是面向境内公众提供的服务,澳大利亚那次事件却出在内部训练。对能接触真实网站的测试,研发机构怎么限制权限、怎么发现异常,同样需要有具体做法。

美国联邦层面已有负责AI标准和安全评估的机构,国会也有针对前沿模型的法案,但各州的要求、联邦机构的评估和企业的自愿承诺还没有形成一套统一的制度。

华盛顿越看重在AI竞赛中抢先,越容易担心强制测试拖慢研发。

可如果联邦层面长期靠自愿承诺,一旦企业碰到测试越界、项目又赶着上线,它什么时候报告、需不需要停下来,就容易受到商业进度左右。

倒有一件事可以先做。9月,中美同意建立人工智能对话和事件沟通渠道。美方随后提出讨论重大事件怎么互相通报。

到11月17日深圳亚太经合组织会议期间,各方已就AI安全部署和负责任应用等议题形成共识,中美之间专门用于重大事件的应急通报安排仍待落实。

这套安排要真能用,得谈清什么情况需要联系对方,夜里谁负责接收消息,第一份通知该给哪些信息。

如果一家公司的测试模型进入了另一国的公共服务系统,先把异常出现的时间、涉及的服务、目前发现的操作发过去,就能让对方着手排查。

各国对什么算重大事故、企业该负多大责任,还缺少通行的规则。

中美可以先把紧急联系做起来,后续调查和追责再按各自法律和合作程序处理。双方在芯片和产业上有竞争,一样有理由让这种事尽早得到处置。

盖茨担心的是,真等到医院停摆才认真管,损失已经有人承担了。我更愿意拿眼下就能问清的事来检验监管有没有用。

模型碰了不该碰的系统,谁能叫停?接到通知的人手里,有没有足够的信息马上处置?把这两件事做到,公众就能少承担一分原本可以避免的风险。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上海市委书记胡立教儿子因“流氓罪”被捕,他只回应了9个字!

上海市委书记胡立教儿子因“流氓罪”被捕,他只回应了9个字!

沆砀无垠
2026-11-17 19:00:03
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
别买!全是假的!又一产品大翻车,成本只有10元,很多人长期上当

别买!全是假的!又一产品大翻车,成本只有10元,很多人长期上当

孤城落日
2026-11-17 19:04:34
刘建宏:邵佳一应该向安东尼奥学习!认清现实吧,国足是亚洲2.5流

刘建宏:邵佳一应该向安东尼奥学习!认清现实吧,国足是亚洲2.5流

念洲
2026-11-18 07:02:38
A股:今天精准收跌在3584点,信号非常强烈!明日将迎来关键转折

A股:今天精准收跌在3584点,信号非常强烈!明日将迎来关键转折

云鹏叙事
2026-11-18 00:00:04
耻辱10连败,从总冠军跌落神坛!9换2交易不值得,你们很难崛起了

耻辱10连败,从总冠军跌落神坛!9换2交易不值得,你们很难崛起了

篮球扫地僧
2026-11-17 18:41:12
妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

胖胖侃咖
2025-04-13 08:00:08
轮毂装反风波过后,比亚迪悬赏最高500万打击黑公关

轮毂装反风波过后,比亚迪悬赏最高500万打击黑公关

历史总在押韵
2026-11-17 05:45:13
AI的风,终于还是吹到了组织

AI的风,终于还是吹到了组织

老斯基财经
2026-11-16 22:11:02
前门将谈迈尼昂和多纳鲁马:一个是真正球员,另一个是守门员

前门将谈迈尼昂和多纳鲁马:一个是真正球员,另一个是守门员

懂球帝
2026-11-17 23:54:26
彻底崩盘!跌至历史新低大量175元拆机技嘉B760M小雕主板涌入咸鱼

彻底崩盘!跌至历史新低大量175元拆机技嘉B760M小雕主板涌入咸鱼

小兔子发现大事情
2026-11-17 10:27:04
我儿子今年35岁,每月收入6800,在我死乞白赖的逼迫下,他结婚了,可我现在却后悔了,不该劝他结婚

我儿子今年35岁,每月收入6800,在我死乞白赖的逼迫下,他结婚了,可我现在却后悔了,不该劝他结婚

蝉吟槐蕊
2026-11-17 16:30:32
罕见画面:我国沙漠腹地发现一棵巨树,高16米,七八个成年人才能合抱,依靠不定期的极端洪水,以及渗入沙层的地下水顽强生存

罕见画面:我国沙漠腹地发现一棵巨树,高16米,七八个成年人才能合抱,依靠不定期的极端洪水,以及渗入沙层的地下水顽强生存

极目新闻
2026-11-15 20:14:15
相约深圳APEC,世界看到更多可能

相约深圳APEC,世界看到更多可能

环球网资讯
2026-11-18 08:04:24
邵佳一执教1年!10战仅4胜,队史首负两队,场均仅获1.4分

邵佳一执教1年!10战仅4胜,队史首负两队,场均仅获1.4分

奥拜尔
2026-11-17 22:04:15
连续疯狂暴涨后,最大的危害是人们对油价消费产生了不可逆的转变

连续疯狂暴涨后,最大的危害是人们对油价消费产生了不可逆的转变

刘哥谈体育
2026-11-17 05:34:13
麦克阿瑟到晚年总算说了句大实话?当年朝鲜那一仗中国要是没打,如今整个亚洲的大格局,恐怕早就不知变成啥样了

麦克阿瑟到晚年总算说了句大实话?当年朝鲜那一仗中国要是没打,如今整个亚洲的大格局,恐怕早就不知变成啥样了

扶苏聊历史
2026-11-16 17:32:49
中国28岁留学生嫖娼16岁日本女高中生,被抓狡辩:为了学日语!

中国28岁留学生嫖娼16岁日本女高中生,被抓狡辩:为了学日语!

圆圆神神神
2025-08-09 21:49:27
中方两小时“送客令”:高市早苗不收回那句话,日本连装糊涂的资格都没有

中方两小时“送客令”:高市早苗不收回那句话,日本连装糊涂的资格都没有

浯江孤舟
2026-08-31 10:07:56
曝勇士或交易追梦巴特勒!负资产需搭首轮?勇媒盼5换4卡特+比塔泽

曝勇士或交易追梦巴特勒!负资产需搭首轮?勇媒盼5换4卡特+比塔泽

颜小白的篮球梦
2026-11-18 05:41:01
2026-11-18 09:16:49
福建睿平
福建睿平
记录农村生活、分享乡村事,工作生活,分享法律知识
8659文章数 2397关注度
往期回顾 全部

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

科技要闻

老黄想回来?英伟达董事会:没门

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

时尚
本地
健康
旅游
手机

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

本地新闻

乌兰察布:以前种土豆,现在种Token

情绪真能让健康人"伤心至死"?

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

无障碍浏览 进入关怀版