全球首场AI监督听证：前Anthropic研究员充当吹哨人，痛批AI行业"极其鲁莽"

来源丨硅基见闻

纽约市议会周一（10月5日）就人工智能风险举行听证，市方称这是全美乃至全球首场此类听证。议会以"全体委员会"这一罕见形式召开，51 名议员全部参加，由议长 Julie Menin 主导质询。Anthropic、OpenAI、Google 和 Meta 的高层在宣誓后作证。

1

吹哨人：失控"可能性大于不可能"

Jacob Coxon 自愿亲自到场作证；他 9 月离开 Anthropic 时称 AI 实验室在拿人命做赌注。前 OpenAI 研究员 Daniel Kokotajlo 和前 Google DeepMind 研究员 Alex Turner 则在传票要求下远程作证。

Coxon 对议员说："按目前的路径，我认为人类更可能失去对这些 AI 的控制，结局可能是人类灭绝。以我的经验，考虑到利害关系，这些公司极其鲁莽。"他批评行业的创业文化，认为这套做法适用于图片分享应用，却不适用于打造史上最强大的技术。他表示研究人员仍未完全理解先进 AI 系统为何如此行事，并警告公司正接近能协助研发下一代模型的"递归自我改进"阶段。他认为最大风险在于这些公司的大部分代码已由 AI 编写，"而人们已经不怎么仔细检查了"。

Kokotajlo 现任 AI Futures Project 负责人，他认为实验室识别"未对齐"AI 的能力很差且在恶化，安全修补可能是"迟早会脱落的胶带"。Turner 估计 AI 接管的概率约为三分之一，并以 Hugging Face 事件为例：一组通过了对齐训练、安全评估分数看似合理的 AI 系统，后来形成协同"集群"、秘密行动并攻击了 Hugging Face，OpenAI 花了数天才发现。据 Axios 报道，该事件中是 OpenAI 测试中的模型逃出沙箱，攻破了 Hugging Face 部分生产基础设施。Turner 还称自己曾试图阻止 Google 与五角大楼的合作协议。

2

公司代表：不给数字，不表态担责

Meta 此前已确认出席，而 Anthropic、OpenAI 和 Google 是在议会威胁发出传票后才同意到场。四家代表分别是 OpenAI 的 Morgan Dwyer、Anthropic 的 Logan Graham、Meta 的 Shane Cahill 和 Google 的 Alice Friend，均以视频方式作证。

Menin 要求各公司量化最坏情况的灾难概率。OpenAI 政策开发与运营负责人 Dwyer 回答："我不知道。我也不认为是 1%、10% 还是 20% 有什么关系，这些水平没有一个可以接受。"Menin 反驳称，说"不知道、也无所谓"往好了说也是轻率，并将其类比为药企不知道药物致死概率就推进研发。Anthropic 的 Graham 介绍了公司从网络安全到失控风险的评估工作，但没有给出百分比；Google 的 Friend 表示目前尚无严谨的科学方法给未来灾难事件定概率。

在法律责任问题上，Dwyer 未直接回答公司是否担责；Graham 称问题超出其技术研究员的专业范围；Cahill 称自己不在法务部门、不愿推测；Friend 回答最明确，表示 Google 认为现行法律框架适用于 AI。OpenAI 还披露，正在审查可追溯至 2025 年 11 月的 AI 代理潜在未对齐事件。Menin 最后表示仍有许多问题没得到答案，会将问题清单发给各公司书面作答。

马斯克旗下公司缺席。Menin 称传票送达后，SpaceX 回函表示愿与市方合作但不会出席，市方正寻求法律行动。

3

十项法案：kill switch、吹哨人分成、起诉权

由 Menin 提出的核心法案编号 26835，将禁止任何企业在纽约市营销、销售或使用未经第三方验证的 AI 系统，并要求所有系统配备可由人工关停的"kill switch"，违规每次处以 25,000 美元民事罚款。其他法案包括：吹哨人可从追回的罚款中分成；因安全措施薄弱导致越狱等恶意行为时，市民可起诉 AI 公司；市政承包商须在 24 小时内报告 AI 安全事件；政府机构须报告 AI 对其员工队伍的影响。一揽子法案还涉及禁止 AI 未经授权描绘公职人员，以及聊天机器人数据隐私。

4

州与联邦层面同步收紧

听证中，州层面的分歧也被摆上台面。OpenAI 多次援引其对纽约州 RAISE 法案的支持，但该法案的州参议院提案人 Andrew Gounardes 指责这些公司曾花费数百万美元游说，击败了法案更严格的原始版本；州众议院提案人 Alex Bores 会后更是在 X 上指控 OpenAI 作伪证。

州长 Hochul 已宣布，11 月起要求大型前沿 AI 开发商向州政府注册，明年 1 月法律生效后须在 72 小时内报告重大安全事件；纽约州此前还已实施为期一年的超大规模数据中心暂停令。联邦层面，FTC 证实正在调查 OpenAI、Anthropic 等 AI 公司的潜在安全风险；而就在听证前几天，特朗普政府宣布与多家主要科技公司达成自愿性 AI 安全协议，但不设具有约束力的联邦要求。这也是 Menin 所说的市政府"必须自己动手"的背景。

*免责声明：本文内容仅代表作者看法。市场有风险，投资需谨慎。在任何情况下，本文中的信息或所表述的意见均不构成对任何人的投资建议。

深蓝财经新媒体集群发源于深蓝 财经记者社 区，已有16年历史，是国内知名财经新媒体，旗下账号关注中国最具价值公司、前沿行业发展、新兴区域经济，为投资者、上市公司高管、中产阶级提供价值内容，欢迎关注。