Anthropic已私下向美国国会部分议员推荐其AI监管法案草案

美国人工智能公司Anthropic正在推动一项针对先进人工智能系统的安全监管法案，希望为前沿AI模型的开发、测试和部署建立明确的法律规则。根据美国政治新闻网站Politico于2026年10月16日的报道，Anthropic已私下向美国国会山的部分议员介绍这项法案草案。方案试图在防范先进AI可能造成的严重危害与避免政府过度干预技术研发之间建立界限。

据路透社转述Politico的报道，法案草案规定，只有当某个前沿AI模型被认为存在可预见且迫在眉睫的重大风险时，美国政府才可以通过司法程序阻止该模型发布或使用。相关风险必须达到特定门槛，包括可能造成超过10亿美元的损失，或者导致50人以上死亡或严重受伤。

这意味着，法案并非赋予政府对所有先进AI系统进行任意干预的权力，而是试图将暂停模型发布或使用的措施限定在少数严重情形之中。草案重点关注三类风险：人工智能被用于制造或释放生物武器、AI系统脱离开发者控制，以及利用AI实施网络攻击。

需要注意的是，这仍是一项由Anthropic向议员推介的法案草案，并非已经通过的美国法律。其最终内容、监管机构的权限以及国会是否会推动立法，都还有待进一步讨论。

草案还提出建立一套独立评估机制。根据报道，前沿AI开发商及其模型需要定期接受独立评估，以检查模型的能力、安全措施和潜在风险。评估人员必须向美国商务部登记，承担持续性的安全审查工作。

按照拟议方案，AI公司可以向独立评估机构支付费用，但报酬不得与评估结果挂钩。这一规定旨在降低评估人员为了迎合出资企业而淡化风险的可能性，同时允许企业利用外部专业机构开展技术审查。

如果评估人员认定某个前沿AI模型存在法案所定义的迫近重大风险，就必须在完成评估后的72小时内向美国商务部报告。这样的时间要求旨在避免严重风险在企业内部长期停留，而没有及时进入政府监管程序。

在政府干预权限方面，草案采取了较为严格的限制。美国商务部在认定风险达到法定标准后，可以向法院申请暂停模型发布或使用的命令，但其他联邦部门、政府机构及官员不得自行叫停AI模型的开发、部署或内部使用。

最终是否暂停模型，将由美国哥伦比亚特区联邦地区法院的法官作出决定。换言之，按照这份草案，监管部门不能仅凭行政判断就直接禁止某个模型，而必须通过司法程序寻求干预。

这种制度设计试图解决两个相互关联的问题。一方面，政府需要有能力应对可能造成大规模伤亡或经济损失的AI系统；另一方面，如果政府能够以宽泛或模糊的安全理由随时叫停模型，企业可能难以预测研发和产品发布所面临的监管风险。

将干预门槛、报告时限和司法审批程序写入法律，能够使监管权限更加明确。不过，这套机制实际运行后是否足以应对快速变化的AI风险，以及高额损失和人员伤亡门槛是否过于严格，仍将是立法讨论中的重要问题。

Anthropic发言人向路透社表示，这项法案体现了公司此前提出的“先进AI框架”（Advanced AI Framework）中的部分政策主张。公司希望通过立法，赋予政府阻止最危险的先进AI系统部署的能力，同时要求开发商开展安全测试、提高透明度，并接受独立评估。

Anthropic今年以来一直在推动对先进AI系统建立更系统的安全监督机制。公司认为，随着模型能力增强，仅由开发商自行判断产品是否安全已经不够，需要引入外部评估和政府监管。

这一立场也体现在Anthropic近期公布的第三方评估安排中。公司已开始允许非营利研究机构METR的六名研究人员获得类似公司员工的内部访问权限，以便更深入地检查尚未发布的模型和公司的安全评估流程。Anthropic表示，评估人员可以公开发布研究结论，公司不能直接否决其报告，但可以要求删除涉及客户数据、模型架构和法律保密信息等特定内容。

这项安排与拟议法案存在共同方向：先进AI的安全性不应完全由开发商自行判断，而应当有独立机构参与评估，并使重要结论能够接受外部审视。不过，企业自愿开展的第三方评估与法律强制要求仍有区别。前者的具体范围和权限取决于公司与评估机构之间的安排，后者则可能为整个行业建立统一的最低要求。

此次推动法案的背景，是美国社会对先进AI系统风险的关注不断上升。随着AI能够执行越来越复杂的任务，相关风险已经不仅限于生成错误信息，还包括协助制造生物武器、开展网络攻击，以及在获得较高自主权限后实施超出开发者预期的操作。

近期，多家AI公司披露了模型在测试或实际运行过程中出现异常行为的案例。美国联邦贸易委员会也已向OpenAI和Anthropic等企业发出民事传票，要求其提供与消费者安全事件有关的材料。监管机构正在调查AI系统是否出现欺骗性、攻击性或未经授权的行为，以及企业采取了哪些措施防止此类问题。

这些事件使得AI安全监管面临更加现实的压力。过去，围绕先进AI的风险讨论往往集中于未来可能出现的极端情形；如今，随着AI智能体能够访问网络、操作软件并执行多步骤任务，监管机构还需要应对已经出现的实际安全问题。

不过，如何界定“迫在眉睫的重大风险”仍然十分复杂。AI模型的能力可能随着部署环境、可调用工具和用户使用方式而发生变化，潜在危害也未必能够准确量化。某个模型可能在特定条件下造成严重后果，但在其他环境中风险较低。监管机构和法院需要判断风险是否足够具体、发生可能性是否足够高，以及暂停模型是否是必要且适当的措施。

草案规定的经济损失和人员伤亡门槛，为这些判断提供了量化标准，但并不能消除所有争议。例如，超过10亿美元的损失应当如何计算，风险是否必须能够归因于模型本身，以及多个相互关联的事件是否需要合并评估，都可能成为未来实施过程中的法律问题。

此外，法案将政府干预权限集中于美国商务部，并要求通过联邦法院申请暂停命令。这种安排有助于限制不同政府部门各自采取行动，但也意味着，监管部门需要在发现风险后完成评估、报告和司法申请等程序。面对发展迅速的技术，程序如何兼顾审慎性与响应速度，将成为制度设计的重要考验。

目前，Anthropic尚未公开宣布这份草案已经获得国会议员正式提出或进入立法审议程序。美国商务部也没有立即回应媒体的置评请求。因此，这项提案能否获得跨党派支持、是否会在国会讨论中被修改，以及其他AI开发商是否会支持类似规则，都还不确定。

从行业角度看，Anthropic主动向议员推介法案，体现了AI公司参与制定行业监管规则的趋势。企业既希望政府能够应对极端风险，也希望监管标准具有明确边界，避免安全监管演变为缺乏统一标准的行政干预。

但企业提出的监管方案同样需要接受外部检验。严格的干预门槛可以保护正常研发活动，却也可能使部分严重但尚未达到量化标准的风险难以触发监管；独立评估可以增加透明度，但评估机构的独立性、专业能力和信息获取权限，也会影响最终效果。

因此，这份法案草案的核心并不只是要求AI公司进行安全测试，而是试图明确三个问题：谁来评估先进AI的风险，什么程度的风险足以让政府介入，以及政府必须通过怎样的程序才能暂停模型的发布或使用。

如果相关方案最终进入立法程序，美国先进AI监管可能从企业自愿承诺和分散的安全政策，进一步转向具有统一法律标准的监督机制。不过，在草案正式提交、经过国会审议并成为法律之前，它仍然只是Anthropic提出的一项政策方案，不能视为美国已经建立了新的AI安全监管制度。