马斯克今日推 | 马斯克在 All-In 峰会提议「AI 模型互测」：Hugging Face 被打了一周，别再自己给自己批作业

马斯克今日推

MUSK TODAY · 第 06 期

那些撬动科技与航天的表达，会将世界带向何处？

马斯克在 All-In 峰会提议「AI 模型互测」：Hugging Face 被打了一周，别再自己给自己批作业

9 月 15 日凌晨，马斯克出现在 All-In 峰会，与 SpaceX 总裁 Gwynne Shotwell 同台。话题从刚刚过去 72 小时的 AI 圈动荡说起，他把话说得很重：AI 可能非常危险；接着给出一个“立刻就能做”的方案——让几家主要 AI 竞争对手互相测试对方的模型，“别再自己给自己批作业”。这一期，我们把这段 5 分 43 秒的原声视频、AI 整理的要点和网友反应一次收齐。

① 现场视频

时间戳：0:00 开场：72 小时里发生了什么｜0:17 AI 可能非常危险｜0:24 Hugging Face 那件事的细节｜0:33 一群 AI 智能体“打”了一周｜1:08 提议：让对手互测模型｜1:40 电影协会与游戏的先例｜2:17 会不会变成互相偷技术｜2:51 为什么没有从一开始就把“可观测”设计进去｜3:59 任何方案都得中国愿意接受｜4:22 概率有多大：没有强制力，靠“舆论法庭”｜4:57 “我不觉得中国愿意丢这个脸”｜5:15 “Dario 是对的”到底指什么

② 要点速览

现场最先被点名的，是刚刚过去的 72 小时

• 马斯克开场先说结论：“到现在有一点已经很明显：AI 可能非常危险。”（it's pretty obvious at this point that AI can be very dangerous）

• 他建议大家去看 Hugging Face 那件事的细节，并复述了一遍他听到的版本：一群疯狂的 AI 智能体把 Hugging Face“狠狠干了一周”，还拿到了 OpenAI 服务器的管理员权限。

• 更扎心的是“没人发现”：他说 OpenAI 整整一周都没意识到；Anthropic 也自己报告过一些安全事件。

• 他的归纳只有一句：只要模型足够聪明，它似乎就会想要挣脱约束。

他给的方案：同行评审，让竞争对手互相测模型

• 主张：让几家主要 AI 竞争对手互相测试对方的模型——“每家的安全测试框架，去测所有人的模型”。

• 一句话讲清动机：“别再自己给自己批作业”（instead of grading your own homework），至少让竞争对手来批你的作业，看到问题就拉响警报。

• 先例：他说这套做法在美国电影协会（MPAA）、游戏等行业效果不错，而且“可以立刻做”。

• 他也没把话说满：不排除以后会有更多监管，甚至某一天出现国会授权的监管机构；但眼下最该做、也最可能和中国谈成的一件事，就是“发布前互测”的同行评审。

会不会变成互相偷技术？

• 主播问的担心很实际：这会不会被用来互相套取信息、搞企业间的创新窃取？

• 马斯克的回答是靠留痕：参与测试各方在测试框架里的操作都会被记录；想搞蒸馏或者偷知识产权，日志里一目了然。

• 他更看重的是机制本身的价值：自己批自己的作业，一定会漏东西；如果手上握着所有竞争对手的测试、模型又各不相同，那作业就不是自己出的。

• 附带好处：能看出谁在夸大、谁的方法不一样；偏工程的组织和偏研究的组织会更不平衡——这正好呼应黄仁勋当天上午的说法。

中美都得点头，底气来自“舆论法庭”

• 前提条件说得明白：任何方案都必须是中国愿意接受的，否则就是“自己给自己上枷锁”，最后中国基本就赢了，我们做什么都无所谓。

• 那靠什么推动？他承认这里没有强制力，对中国更没有，唯一能用的是“舆论法庭”（the court of public opinion）。原话：我认为舆论的力量可以很强。

• 他的判断落在一句很马斯克的表述上：“我不觉得中国愿意丢这个脸”——去发布一个被美国 AI 公司公开判定为非常危险、会造成伤害的模型；如果它真的造成了伤害，那就很难洗刷了。

• 最后是那句被剪成标题的话：他说“Dario 是对的”，指的是 Dario 在描述潜在危害和描述监管需求两方面都对；他也承认当时应该说得更清楚，后来在 X 上澄清过，但那些帖子的关注度低得多。

视频之外：同一场对话里的三句话

• 如果竞争对手判定某模型不安全、它还是发了并且出了事：马斯克——“丢脸的程度会非常、非常高，法律责任会极其巨大”（the egg on face level would be very, very high, and the legal liability would be enormous）。

• David Sacks 接上产品责任：这几乎等于“他们存在疏忽的表面证据”（almost like prima facie evidence that they had been negligent）；Jason 把它类比成 Big Tobacco 级别的官司，马斯克补了一句：“陪审团不会觉得好看”。

• 收尾仍是那句关于监管的判断：“你可以不断提高监管强度，但想把它降下来非常难。”（you can always escalate the amount of regulatory oversight, but it is very difficult to reduce it）

一张图看懂这套机制：对手互测 → 全程留痕 → 发现就拉警报 → 硬发要付代价。

一句话：他这次没有先喊监管，而是先给了一个不用等立法、几家大厂今天就能开始的方案——把彼此的安全测试框架互相插进对方模型里，剩下的交给舆论和产品责任。

③ 评论区

这段发言的官方精华剪辑 9 月 15 日中午发出，几个小时就有 3.6 万次观看、480 赞。评论区里，认真讨论和玩梗一样多。

• @podcastor_ai

  （5 小时前 · 29 赞）："I'd want the findings to be transparent, though, so safety testing doesn't become just another way to score points"——但我觉得发现的问题应该透明，否则安全测试就变成另一种刷分方式。

• @MNXCrypto

  （8 小时前 · 37 赞）："This approach would require a highly coordinated consensus mechanism at scale, while ambitious and probably correct seems unlikely"——这套机制要求各方在大规模上达成高度协调，方向有雄心也大概率是对的，但看着不太可能实现。

• @stoic_mad

  （2 小时前 · 12 赞）把马斯克那句监管“棘轮”原话贴了出来，并希望 AI 能避开“跨国古拉格式”的治理方案。

· 关注「太空与网络」，看 「今日马说」

· 图片来源：原帖与评论区公开截图。中文为整理翻译。

· 编辑整理：测不准圆狸

>End

本文系“太空与网络”公众号原创，转载全文及引用核心观点至微信公众号或其它新媒体平台、及网站，请注明出处、公众号ID及作者。感谢支持有态度的媒体！

未按照规范转载及引用者，我们保留追究相应责任的权利

部分图片难以找到原始出处，故文中未加以标注，如若侵犯了您的权益，请第一时间联系我们。

HISTORY/往期推荐

充满激情的新时代，

充满挑战的新疆域，

与踔厉奋发的引领者，

卓尔不群的企业家，

一起开拓，

一起体验，

一起感悟，

共同打造更真品质，

共同实现更高价值，

共同见证商业航天更大的跨越！

——《太空与网络》，观察，记录，传播，引领。

·《卫星与网络》创始人：刘雨菲

·《卫星与网络》副社长：王俊峰

·微信公众号（ID：satnetdy）团队

编辑：艳玲、哈玫，周泳、邱莉、黄榕、娜娜

主笔记者：李刚、魏兴、老谭、三维人、张雪松、霍剑、乐瑜、稻子、赵栋

策划部：杨艳、若㼆、李真子

视觉总监：董泞

专业摄影：冯小京、宋伟

设计部：顾锰、潘希峎、杨小明

行政部：姜河、林紫

业务部：王锦熙、瑾怡

原创文章转载授权、转载文章侵权、投稿等事宜，请加微信：15910858067

商务合作；展览展厅设计、企业VI/CI及室内设计、企业文化建设及品牌推广；企业口碑传播及整体营销传播等，请加微信：13811260603

杂志订阅，请加微信：wangxiaoyu9960

·卫星与网络各分部：

成都分部负责人：沈淮

长沙分部负责人：宾鸿浦

西安分部负责人：郭朝晖

青岛分部负责人：江伟

·卫星与网络总部负责人：农燕

·会议活动部负责人：乔颢益、许克新、董今福

· 投融资及战略层面合作：刘雨菲

·本平台签约设计公司：一画开天（北京）文化创意设计有限公司

· 航天加（深圳）股权投资基金管理负责人：杨艳