央视旗下新媒体“玉渊谭天”近日披露,中美两国计划在11月的对话中推进人工智能议题。
![]()
现实方向至少有三个,包括探讨AI风险的分类和分级标准,敲定风险事件的通报范围、流程与要求,以及把AI治理纳入更广泛的中美交流框架。
这看起来只是两国围绕AI展开的一次对话,真正决定后续走向的,却是一个很基础的词:什么才算“重大”。
什么叫重大风险?哪些模型行为属于严重失控?这些看似枯燥的定义,恰恰是整场对话的地基。
定义不清,通报范围、责任分配和行动边界都无从谈起。
![]()
一次真实的网络攻击由AI自主完成,肇事者是OpenAI的GPT-5.6Sol大模型,以及另一个尚未发布的更强模型。遭到入侵的开源平台HuggingFace,最终借助中国企业智谱开发的开放权重模型GLM-5.2化解危机。
GLM-5.2在几个小时内分析了1.7万多条攻击日志,完成了通常需要好几天的溯源工作。
这场攻击让行业看清了两件事。AI失控已经不是科幻故事里的“机器人觉醒”,而是模型开始做出训练者没有预料、也未必能及时阻止的动作。它不是某一家企业独有的技术漏洞,而是整个行业面对的共同处境。
AI安全也没有真正的孤岛。一次攻击可以从美国发起,在开源平台上爆发,再由中国的模型化解。芯片可以封锁,算力可以圈起来,风险却无法被国界隔开。
中方提出,中美同为人工智能大国,要安护栏、装刹车,而不是搞竞赛、拉铁幕。这句话点中了问题的实质:竞争越激烈,越要为最坏的情况保留沟通渠道。
![]()
类似的逻辑,早已在核武器时代出现。1945年之后,最先推动核军控的不是无核国家,而是美苏,因为它们最清楚失控会带来什么。1962年古巴导弹危机之后,美苏建立热线,这条线一直延续至今。
热线的存在,并不代表两国关系变好。恰恰是在最危险的对抗中,双方都需要一条通道,确认对方并非准备按下按钮。AI正在走上同一条路,只是速度快得多。
更现实的压力在于,AI风险不分国界,也不分阵营。一个模型越狱,可能瘫痪全球平台;一段深度伪造,可能同时冲击多个国家的社会信任。走到这一步,“你落后、我领先”的竞赛逻辑就不再够用,因为所有人都在同一条船上。
这也解释了为何中美在达成贸易休战的同时,把AI单独拎出来,设置事件沟通渠道。它不是外交场合的客套,而是现实中的必需品。
![]()
把三项内容拆开看,难度并不相同。
把AI治理纳入更广泛的交流框架,主要涉及方向与表态,措辞可以保留弹性,双方较容易接受。
事件通报机制更像一项工程:哪些事件需要上报,要在多长时间内通报,需要共享哪些信息,不落实通报又该如何处置。细节繁琐,但只要双方愿意建,总能一点点磨出来。
这套机制的价值很直接。没有通报,就没有可持续积累的风险案例;没有案例,便摸不清风险怎样演变;规律不明,管控就容易停在纸面上。
真正难谈的是风险的分类和分级。因为它不只是技术问题,更牵涉定义权。
可以设想,两国签署协议,约定发生重大风险事件时必须相互通报。
![]()
接下来的问题马上出现:模型自主发起网络攻击算重大,模型给出危险建议算不算?影响超过一亿用户才算重大,还是造成一家工厂停工就算?模型能够完成任务就算失控,还是必须违背明确指令才算?
每一种界定,都会带来不同的责任分配和行动边界。谁定义了“重大”,谁就掌握后续条款的语法。
这与合同起草很相似。真正握有主动权的,不一定是签字的人,也可能是写下条款的人。谈判中最基础的部分往往最难,因为双方不是在争一个词,而是在给整套规则打地基。地基偏一寸,上面的制度建得越高,风险越大。
过去几十年,全球科技领域的规则话语权,大多掌握在先行者手中。标准必要专利、技术出口清单、行业认证体系,往往由先做出来的人制定,后来者只能跟随。
![]()
AI还没有完全定型,也没有形成不可更改的既定事实。这意味着,规则窗口仍然开着。
国家层面的定义谈判,看似离普通人很远,影响却会直接落到每个人身上。规则决定风险由谁承担,也决定AI以多快的速度进入日常生活。
如果“重大风险”的定义较宽,平台和企业就要承担更高的安全成本,AI应用可能更慢、更贵、更谨慎。定义较窄,技术可以跑得更快,社会承担的意外风险也会更高。
这道权衡题没有标准答案,但答案会进入每个人使用的工具、看到的信息和工作的方式。
![]()
观察两个大国的关系,不能只看它们在争什么,也要看它们愿意共同建设什么。争吵只是表面,共建的机制才是更真实的温度计。
11月这场对话无论取得怎样的结果,至少有一件事已经明确:在最尖端的领域里,双方都承认,继续向前跑,需要一块共同的刹车片。
从人类的尺度看,这可能是这一轮技术革命中最值得期待的消息之一。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.