主持人当场怼马斯克：AI真这么危险，你们怎么还在拉投资？

本文为深度观点解读，仅供交流学习

前言

AI安全的讨论越来越热闹，但很少有对话能像这次连线一样，直接戳中行业最拧巴的地方。

马斯克在线上接入对话，他人身在孟菲斯，盯着一批新显卡完成上线部署，为了赶算力建设进度，他直接在工厂地板上休息。

对话一开始，话题还围绕SpaceX火箭项目慢慢展开，聊着聊着就滑向AI安全。

马斯克抛出一个很有意思的设想，头部AI企业发布新模型前，互相开展交叉安全测试。

他用批改作业来打比方，自己给自己阅卷，很容易漏掉隐藏的问题。

他还直言，这套设想能不能落地，很大程度取决于中国是否愿意加入。

主持人听完，当场抛出一句直击灵魂的质问，一边不断对外警示AI有毁灭人类的可能性，一边还在积极对接资本，询问投资人打算认购多少份额。

很多人会下意识觉得，阻碍这套交叉测试方案落地的是技术门槛，事实恰恰相反，技术层面完全可行，真正卡住进度的，是没有企业愿意率先交出自己的模型接受检验。

现在大模型上线前的安全核验，大多是自研企业包办全部流程。

测试题目自己设计，测试过程自己执行，风险评估由自己完成，最后对外公布结果也由自己说了算。

企业不是不想排查隐患，而是自带的思维惯性会形成盲区，开发者熟悉模型的底层逻辑，很容易自动忽略一些潜在漏洞。

这种现象普通人也能体会，写完一段文字反复回看，很难察觉到里面的错误，换一个旁观者审阅，问题就容易暴露出来。

交叉测试的操作逻辑，是各家企业拿出各自的安全测试题库，整合形成一套覆盖面更广的测试集合。

整套测试主要盯着三类高危场景，模型能不能给出制造生物武器的指引，会不会泄露研发核武器的关键资料，还有模型是否刻意编造信息欺骗使用者。

不同公司训练模型的思路不一样，模型产生回答的偏好各不相同，找同行来互相挑错，观察的角度完全不一样，等于跳出了原团队固有的思维框架。

主持人很快察觉到这里面藏着商业风险，提出疑问。

把模型开放给同行测试，相当于把核心技术送到竞争对手手中，对方会不会借着安全测试，逆向拆解模型获取技术。

马斯克的回应是，全部测试流程都会留下完整日志，每一次调用、每一次访问都有记录。

如果有企业借着安全核验窃取技术，留存的记录就可以作为凭证。

交叉测试还有一个额外作用，可以分辨风险预警的虚实，看清哪些隐患真实存在，哪些只是夸大风险制造紧张感。

设想听起来简单，放到真实商业竞争环境里，主动交出模型、主动暴露弱点，对任何一家公司来说，都是很难迈出的一步。

跨国规则想要发挥效力，单靠少数几个国家的企业参与远远不够。

马斯克认为，如果这套互测机制只有美国几家公司遵守，其他AI研发主体不加入，最后就变成单方面给自己套上枷锁。

美方企业严格限制模型发布节奏，其余企业依旧按照原有计划推出新版本，那么这套安全约束的价值就大打折扣，很难实现全球层面的风险管控。

主持人继续追问，中国参与这套机制的可能性有多大。

马斯克认为提议本身不算苛刻，只是模型上线前增加一轮同行交叉安全检查，不存在强制约束的权力。

但这套约定没有执法主体，也没有对应的处罚手段，它的约束力，更多来自全球公众和行业的目光。

如果几家头部企业共同判定某款模型风险极高，可模型依旧正常上线，一旦后续真的出现安全事故，相关企业就要承受巨大的信誉代价。

这件事看着只是几家科技公司的技术协商，能不能真正跑起来，离不开全球所有主要AI研发力量的共同参与。

对话里关于AI风险边界的辩论，把行业内在矛盾摆到台面上。

参与对话的投资人长期深耕AI投资赛道，顺着话题问起马斯克提到的达里奥观点。

马斯克表示，AI的风险水平已经不容忽视，整个行业必须升级安全管控措施。

Anthropic和OpenAI内部，都有员工公开发声，提醒大众模型存在巨大潜在风险。

这些说法，刚好给主持人的质疑提供了切入点。

行业一边对外宣传AI有百分之十的概率，会引发足以毁灭人类的灾难，一边持续推进融资，主动询问投资方新一轮的投资额度。

两件事放在一起，形成强烈反差。

马斯克解释，这个百分之十的风险估算数字，并不是他提出的，他也不清楚这个数据的来源。

讨论继续往更深的技术场景延伸。

主持人认可AI可以发起网络攻击，但从普通黑客入侵，升级到威胁全人类存续，中间还有大量环节，需要把整条逻辑链条讲清楚。

马斯克把关注点放在军事系统上，如果AI取得军事系统控制权，具备触发武器发射的能力，后果将难以预估。

主持人随即提出不同看法，大部分核心军事系统都是物理断网，不接入互联网，AI没办法远程入侵。

马斯克没有被这个说法说服，物理隔离不等于绝对安全。

离线系统需要定期更新软件，更新包常常依靠U盘这类移动存储介质导入。

一旦存储介质被植入恶意代码，就算设备全程脱离互联网，病毒依旧能完成跨介质渗透。

这不是凭空猜想，离线介质携带恶意代码，一直都是网络安全领域持续研究的攻击路径，虽然发生门槛很高，但无法直接排除可能性。

这套“不能自己批改自己作业”的道理，并不只局限于科技巨头之间的博弈。

普通人日常使用AI工具，同样会踩下相同的陷阱。

不少人用AI生成文稿之后，直接让同一个模型自查。

同一套模型的底层思维模式不变，很难发现它自身产生的逻辑缺陷。

换另一个不同的大模型审阅，往往能找到很多原先被忽略的漏洞。

普通人完全可以把这套思路，融入日常使用AI的习惯当中。

核验内容时，尽量不要用生成文本的模型自查。

向AI提要求的时候，不必问写得好不好，而是让它找出论证站不住脚的地方。

准备把内容对外发出前，挑出心里最没把握的句子，亲自通读一遍，依靠人的判断，完成最后一关检查。

AI技术还在快速迭代，机遇和风险始终相伴。

在呼吁重视安全隐患的同时，行业也不能无限制追逐商业化扩张。

安全管控不能停留在口头争论，建立起有效的互相监督，才是化解矛盾的可行方向。

如果各位看官老爷们已经选择阅读了此文，麻烦您点一下关注，既方便您进行讨论和分享，又能给带来不一样的参与感，感谢各位看官老爷们的支持！#秋日生活打卡季#