秦安：“足以引发导致十亿人死亡的事件”，中美建立“红线电话”，盖茨和基辛格都发出警告，离人类有多远？

作为军人，最强烈的就是风险意识，看到比尔·盖茨发出人工智能危险的警告，说这种“足够强大的工具”，“足以引发导致十亿人死亡的事件”，的确高度警惕。无独有偶，这次中美首脑会晤，也明确建立了中美超级智能（SI）对话机制。

请战友们注意，超级智能和人工智能不一样，这里面有什么玄机？人工智能到了要不要发展，今天给大家掰开揉碎聊一聊！

一、基辛格离开这个世界之前，念念不忘的，就是人工智能的中美合作，他为什么认为人工智能甚至比核武器更可怕？

基辛格生前最后一次来到中国，也是想促成这件事情。他的核心观点，就是认为人工智能风险大于核武器，极有可能引发失控的大国竞赛。

因此，基辛格建议中美开展AI合作，共同管控风险。他在与人合著的《人工智能时代与人类未来》一书中，剖析AI对人类认知与全球秩序的颠覆性冲击，呼吁大国建立AI军备管控机制。

直到临逝世前，基辛格还在奔走呼吁这件事情。他生前最后一次访华，重点就是推动中美人工智能对话，以二轨外交搭建沟通渠道，促成双方AI议题交流。

基辛格为何认为人工智能比核武器还危险？

基辛格在《人工智能时代与人类未来》一书中，有 5条核心理由。
一是黑箱不可解释：人类看不懂人工智能的推理路径，无法预判它会做出什么决策，核武器则是人类完全掌握 。

二是扩散门槛极低。相比核弹材料、制造、投放成本极高，人工智能代码、算力易于复制、跨境传播，很难管控扩散 。

三是决策速度极快：人工智能自主反应毫秒级，冲突来不及人类叫停，极易触发意外战争 。核危机至少可外交斡旋。

四是混乱人类认知：核武器只毁灭物质；人工智能会改变人类思考方式、价值判断，动摇人类理性本身，让人做出错误决策。美国已经就出现了类似的事情，人工智能导致轰炸德黑兰小学，误判中国向伊朗提供武器。

五是模糊威慑边界：核威慑有清晰红线；人工智能结合网络武器，攻击溯源困难，分不清是意外、黑客还是国家行为，威慑逻辑失效，人类容易被反向控制。

二、曾经的世界首富比尔·盖茨发出警告，“足以引发导致十亿人死亡的事件”，这是误导，还是真实担忧？

微软公司联合创始人比尔·盖茨也发出类似警告称，人工智能是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。

这是说，不愧是曾经的世界首富，他的政治敏感性非常高。25日是什么日子？是中美首脑会晤结束的日子。中美达成的 8 点共识也出来了，其中一条，就是关于中美人工智能合作机制。盖茨这时候发出警告，多少有蹭热点的嫌疑！

25日，盖茨在NBC《与媒体见面》节目的采访片段中表示，“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”该节目将于27日正式播出。估计，下一步盖茨的警告还要发酵，我们看了节目，然后进一步判断他葫芦里面卖的什么药。和基辛格的不一样。基辛格是出版了一本书，事情说的很清楚。

关于盖茨的警告，我们需要从其企图和可能性两个方面考虑。

一方面，美方高官和企业家有唱衰人工智能的倾向，强调人工智能边界，似乎要诱导中国放慢人工智能发展速度。

近期，美方部分高官与企业家频频渲染AI风险、划定发展边界，表面呼吁审慎管控前沿人工智能，实则暗藏博弈算计。Anthropic CEO阿莫代伊直言，若中国不一同减速，美国的AI安全管控便没有意义；OpenAI奥尔特曼、马斯克多次警示AI存在文明级风险。

实际上，美方一边呼吁全球放缓，一边坚持美国必须保持领先。美国持续加码算力、布局人工智能军事化，试图借安全叙事诱导中国放慢人工智能发展，守住自身优势。

美国财长更是说得赤裸裸，他认为，必须击败中国。如果中国赢下人工智能竞赛，美国就没有后天可言。他强调，一旦中国在人工智能上甩开美国，美方1.5万亿的国防预算、铁穹防御系统，都毫无意义。

另一方面，可能性完全是存在的。人工智能，其实和网络攻击是紧密相关。美国前防长帕内塔就警告过，要警惕“网络 911 ”和“网络珍珠港”。认为网络攻击可以造成高铁碰撞、飞机坠落、停水停电等，导致大面积恐怖事件，造成大量人员伤亡。

如今，人工智能已经深度介入网络攻击，造成的严重后果其实已经一体化。可以说，人工智能比网络攻击风险更大。

三、中美元首亲自确定，建立美中超级智能对话机制，就风险与益处交换意见，人工智能和超级智能有什么不同？

根据中美双方公布的共识文本，中美关于人工智能合作有三个要点。

其一，两国领导人同意使用“超级智能”一词而非“人工智能”来指代相关新兴技术。

其二，两国建立了美中超级智能（SI）对话机制，以就超级智能相关的风险与益处交换意见。下次对话最晚将于2026年11月举行。

其三，美中两国还就建立双边沟通渠道处理超级智能事件达成一致。

以上三点，最重要的一点是中美对话聚焦于超级智能（SI），而不是人工智能（AI）。这一点其实很重要。这一点，其实很好地规避了美方一些人员想要中国放慢人工智能发展的“陷阱”。

也就是说，普通的人工智能风险可控，人类才刚刚开启人工智能时代，大可不必惊慌失措，中美也没有必要在普通的人工智能层面进行对话，尽管合作是必然的。

实际上，超级智能才是风险不可控的层面，中美对此建立对话机制很有必要，尤其是就超级智能事件处置达成一致，具有可行性。时间反正也紧锣密鼓，明确时间表，下次对话最晚 11 月进行。

一句话总结：比尔·盖茨发出人工智能危险的警告，说这种“足够强大的工具”，“足以引发导致十亿人死亡的事件”。这种似乎正确的话，我们必须有自己独立的思考。就像中美元首确定的超级智能，才是中美沟通机制的范围，普通人工智能刚刚起步，需要更加长足的进步，没有必要制造恐慌。

秦安，2026 年 9 月 27 日，北京海淀。