上海
当地时间10月17日，美国“政客新闻网”（Politico）援引三名知情人士的消息称，Anthropic的代表已悄悄向部分国会议员推介一份据称旨在规范前沿人工智能（AI）安全保障的法案草案。
Politico看到的这份草案规定，只有当某款AI模型存在所谓“可预见的即时风险”，即可能造成超过10亿美元的财产损失，或导致超过50人死亡或重伤时，政府才可以阻止这个模型的发布或使用。
此外，上述重大风险必须是源于AI模型制造或散布生物武器、摆脱开发者的控制，或发动网络攻击。
草案还规定，如果独立评估机构认定某家公司的前沿模型存在上述风险，必须在完成评估后的72小时内向美国商务部报告，随后由其向华盛顿特区的联邦法院申请禁令来暂停模型的发布或使用。
不过，草案文本明确禁止“任何其他美国政府部门、机构或官员”擅自强行暂停或干涉模型的研发、部署或内部使用。“Politico”指出，今年夏天，Anthropic受到政府广泛的出口管制影响，导致其两个最先进的模型被关闭。10月初，五角大楼已正式停用Anthropic的产品。
Anthropic的一名发言人证实，这份法案草案体现了该公司在早些时候发布的《高级人工智能框架》（Advanced AI Framework）中的建议，“自6月份以来，我们一直在向联邦和州立法者倡导这些建议。”
他补充说，“我们认为这些都是合理的政策，国会应该采取行动。”
Anthropic拒绝透露这份草案的推介范围及目前的接受程度。美国商务部也暂未回应媒体置评请求。
科技与政策分析网站ExplainX和Tech Insider纷纷指出，AI安全领域的独立研究人员公开批评Anthropic拟定的这一管控门槛太高。批评者讽刺道，如果按照这一标准，2024年至2026年期间所有被记录在案的、因AI造成的恶性安全事故，没有一起能够达到这一触发门槛，这意味着政府在绝大多数情况下都会束手束脚。
“一家其产品将直接受到监管的公司，竟然是监管法规的起草者。这在华盛顿并非闻所未闻，”Tech Insider写道，“Anthropic似乎认为，既然联邦立法势在必行，那么由他们来起草初稿，远比被动应对他人的草案要好得多。”
本文系观察者网独家稿件，未经授权，不得转载。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
