AI治理实质，是管模型，还是管产品？

防走失，电梯直达安全岛

文/刘亚东

过去一周，世界就“人工智能该怎么管”给出了两套答案。

9月17日，英国国王查尔斯三世在苏格兰邓弗里斯庄园主持一场高规格AI峰会。英伟达CEO黄仁勋到场放话：开发AI的人必须严格测试系统，产品达不到发布标准，就推迟发布。在他看来，AI是底层技术，不必约束技术本身；要管就管产品，不安全的产品，不许上路。

四天后，芬兰总统府发布公告，芬兰、挪威联合发起《呼吁管控前沿人工智能模型》国际倡议，迄今获得 20 个国家及欧盟委员会领导人的支持。方向正好相反：要管，就管模型，从源头管起。

又过两天，联合国安理会将专门开会讨论人工智能与国际安全。据路透社报道，中国公司深度求索（DeepSeek）将与其他企业一道，向安理会介绍 AI 带来的风险。

深度求索（图源：网络）

同一周，三件事，两条路。

先看“管模型”派。它的逻辑是源头治理：灾难性风险一旦发生就不可收拾，所以要在模型研发阶段拦下来。欧盟《人工智能法》是这条路的标本。它于2024年8月生效，2025年8月起给通用大模型上了专门义务，存在系统性风险的先进模型还要承担额外责任。美国加州SB1047法案更激进，一度想按训练算力规模给前沿模型立规，那是“管模型”走得最远的一次立法尝试。

再看“管产品”派。它信奉场景治理：模型本身无所谓善恶，风险诞生于被使用的具体场景；与其在源头猜，不如在出口设卡，让责任可追、可罚。黄仁勋说“不安全就暂缓发布”，纽森否决SB1047时给出的理由也是同一逻辑：法案只盯着模型规模，不看它部署在什么环境。中国2023年8月施行的《生成式人工智能服务管理暂行办法》，干脆以服务提供者为规制对象，走的也是这条路。

有意思的是，黄仁勋自己一周内的两次表态就带着张力。峰会前，在旧金山 Salesforce大会上他说，AI行业“不需要任何新的法律和监管”，安全是工程问题，现有的网络安全法、产品责任法够用了；17日在峰会上，他又说产品不达标就该暂缓发布。一个反对新监管的人也在喊“暂缓”，只不过他希望按下暂停键的那只手是自己的。

表面看，这是技术路线之争。说到底，治理的实质只有一件事：把证明风险的责任，放在谁的肩上。

但两派各自的软肋，恰好都长在对方的靶心上。

“管模型”的问题在于，模型根本管不住。能力评估至今近乎黑箱，没人能说清一个模型“安全”到了什么程度；开源让模型一出厂就流向全世界，任何实验室都堵不住自己放出去的代码；就算设了算力门槛，蒸馏、微调也能绕过去。到头来，能被“管住”的，只有头部大厂手里的几个闭源模型。

“管产品”的问题在于，它默认风险可以后置。可灾难性风险恰恰是事后追责够不着的那一类：出了问题再赔钱，问题本身也不会消失。何况 AI 正在变成智能体，模型会自己调用工具、自主行动，责任链越拉越长。训练者、部署者、运营者、使用者，出了事，找谁？

管模型的想在上游筑坝，管产品的想在下游设卡。可洪水既会翻坝，也会绕卡。

把噪音滤掉，真正的分歧可以压缩成三个问题。

其一，风险由谁证明？“管模型”要开发者自证安全，“管产品”要按场景评估风险。可“安全”二字的标准，至今没人定义。

其二，责任由谁承担？现行法律里最接近的模板是产品责任，可AI的责任主体是模糊的。训练数据来自全社会，部署由企业完成，使用落在亿万用户手里，责任怎么切？

其三，治理何时介入？事前许可、事中监测、事后追责，三条路各有成本，各有盲区。

答案不在二选一。药品监管史早就给出了模板：药监局既管分子式，管药本身的安全；也管处方，管谁在什么场景下用；还管流通与市场准入；更管上市后的不良反应监测。管药、管处方、管流通、管警戒，四件事合在一起，才是现代药品治理。AI治理终将长成这个形状，而不是僵在“管模型还是管产品”的路口。

AI智能体运行全流程安全治理（图源：普华永道）

也正因如此，中国的探索值得被认真审视。三年前《生成式人工智能服务管理暂行办法》施行，以服务提供者为抓手、备案制先行。这是全世界最早、也是规模最大的“管应用”实践。三年下来，它证明了“管产品”这条路走得通。

但它还没回答“管产品”够不够。开源模型本地部署之后，监管抓手在哪里？智能体自主执行任务，责任链怎么断？备案的密度，是不是真的等于治理的效度？

这些问题不是中国的独家难题。欧盟的“管模型”走了整整两年，今年8月执法权才真正落地；美国的路径更曲折，否决了“管模型”的SB1047，转向“信任但验证”的审计路线，今年9月签下SB813和AB1405，建立全美首套 AI 第三方独立审计机制。欧盟、美国、中国，三种样本，没有一家敢说自己的答案完整。这恰恰说明，治理没有标准答案可抄，各家的题都不好做。

当地时间9月16日，OpenAI发布一套用于跟踪、调查和公开模型目标偏离（misalignment，也称“对齐失效”）事件的新框架，并同步披露过去半年观察到的六起安全事件。（图源：网络）

回到开头那三幕。倡议呼吁“管控前沿模型”，可治理真正的前沿并不在模型层，而在从模型到产品之间的那段无人区。那一段，恰恰是谁都在呼吁、谁都没管住的地方。

呼吁只需要签名，治理需要“谁签字、谁负责”。AI以周迭代，共识以年计，法律以十年计。治理永远在追赶技术，但追赶的姿态，决定了它是补课，还是踩刹车。

模型是药，产品是处方。真正要管的，不单是药，也不单是处方，而是从药到病的那条路。