盖茨警告AI危机！韩国9家银行被攻破！现在，请你务必重视这个问题

点 击 报 名 · 抓 住 风 口 · 看 懂 趋 势

本期要点：AI网络安全问题，务必要重视了！

你好，我是王煜全，这里是王煜全要闻评论。

未来一年，AI 风险的最明显表现，就是网络攻击。

这是10 月 11 日比尔·盖茨接受 CNN 采访时的警告，也与我们此前的判断不谋而合。

过去谈 AI 风险，大家多半想到影响就业，或者未来的 AI 失控。但眼下已经有人在用 AI 攻击企业，而且攻击能力还在提高。

10 月 7 日，网络安全公司 CrowdStrike 披露，韩国多家金融机构遭到攻击。至少9 家银行被列为目标，其中新韩银行约2.5 万名客户、KB 国民银行119 名客户的信息泄露，警方已介入调查。

调查发现，攻击者是利用了一个名为 ARTEX 的开源 AI 安全测试框架，配合多个大模型开展活动。很快的，ARTEX 也因此闭源了。

由于这个工具是由中国开发者上传的，调查方一度怀疑攻击来自于中国。

虽然不能说是 AI 独自攻破了这些银行，但它确实说明，AI 已经参与到真实的网络犯罪之中。

这也表明，危险的拐点出现了：攻击者正在用新一代 AI 武器，而很多企业却还没做好准备予以应对，也让“安全”成为了一个所有人必须重视的因素。

PART 01

核武器

首先，为什么 AI 带来的安全问题会迅速升级？

看看大模型行业的发展情况就知道了。

10 月 12 日，Meta 推出新模型 Muse Wonder 和 Muse Wonder Full，主打 Agent 处理复杂任务、写代码，还能记住上下文、长时间把一件事做完。

继 OpenAI、Anthropic、谷歌之后，Meta 也加入了前沿模型的竞争。

要知道，Meta 今年资本开支指引高达1300 亿至 1450 亿美元，投入十分惊人。

这么敢砸钱，因为 AI 编程已经展现商业价值，Agent 也在进入更多场景。

但要注意的是：AI 能替你写程序、操作工具、完成复杂任务，同样可以寻找程序缺陷，甚至利用漏洞入侵系统。

今年4 月，Anthropic 公布了 Claude Mythos Preview。

这个模型能自己找出并利用一批复杂漏洞。就比如，被认为很安全的 OpenBSD 系统，却被 Mythos 发现了一个存在了27 年的漏洞。

OpenAI 也很快发布了 GPT-6 Astra，该模型的网络安全能力也很强，能自主发现一些复杂系统中的未知漏洞。

10 月 13 日，谷歌则推出了 Gemini 4 Argon，同样宣称它在发现复杂漏洞、生成修复代码等网络防御任务上达到前沿水平。

这些进展意味着什么？

一句话概括：网络安全领域已经出现了“核武器”。那些过去只有极少数顶尖专家才具备的危险能力，现在前沿 AI 也掌握了。

但更值得警惕的是，这种能力不会永远只掌握在少数几家公司手中。

如果只有 Anthropic 做到了 Mythos，还可能是有什么独门诀窍；但多家企业都相继取得了类似的突破，说明这项技术很可能没有什么不可逾越的障碍。

而且，假如开源模型在未来几个月内也具备了类似的能力——特别是，保守估计，明年第四季度，开源模型就有可能做到——那又会发生什么？

闭源模型还能通过限制访问、监测异常使用等方式，降低被恶意利用的风险。但如果未来同样强大的模型能够被任何人在任何地方下载、修改甚至自行部署，就相当于“核武器”人人可得了。

所以，控制危险能力的扩散，已经成为了未来网络安全管控的首要关键问题。

要知道，网络犯罪，如窃取银行信息、勒索企业、让重要系统停摆等等，本就是长期存在的非法牟利方式。

只是，过去，这些攻击还需要很高的专业能力，要投入大量时间和精力；如今 AI 能自动完成其中相当一部分工作，也就降低了攻击成本，扩大了攻击范围。

PART 02

新战场

那么，新的问题也来了，如果「核武器」级别的 AI 泄露了，谁会成为攻击者的主要目标？

我们认为，很可能是那些拥有大量资产和重要业务，却没有及时升级防御的企业。

黑客也会算账，比如看目标有没有钱、有没有值钱的数据、系统是否容易攻破、事后会不会被追责。

目前看，一些传统产业，如银行、电力、航空、保险，甚至物流、零售等行业，拥有价值不菲的资产，同时却用着已经运行多年的老旧系统。

如果管理层没意识到 AI 的能力跃迁，就可能在安全领域投入不足，防御准备不充分，就会成为攻击者眼中的“肥羊”。

而且，攻防双方升级技术的速度，并不对称。

攻击者面对的主要是技术障碍，而企业防守还受到预算、审批和业务连续性等因素制约。

专业黑客能迅速用新工具找漏洞，但银行不能让 AI 随意修改交易系统，还要评估业务中断风险、修复效果和故障恢复难度。

包括老系统中会有些隐藏很深的漏洞，企业甚至直到被发现或利用后才会知道。

这就是我们所说的技术进化代差。

不过，危机的另一面，也意味着巨大的产业机会正在出现。网络安全将成为企业必须持续投入的能力，也将成为重要的新产业。

既然攻击者用 AI 寻找漏洞，企业同样必须用更先进的 AI 主动检查系统。等到别人拿着新一代的技术工具来攻击，才发现自己的防御还停留在上一代，就可能付出非常沉重的代价。

而且，安全防护，不只是定期买软件、做检查，企业还要持续做检测、修复和恢复等工作，确保业务不受影响。

包括，随着 Agent 进入财务、数据库等核心系统后，还需要实时监控 Agent 的运行情况，以及管理它的操作权限。

这种变化将形成新的市场需求，也会成为创业者的重要机会。

比如，谷歌去年宣布以320 亿美元收购云安全公司 Wiz，今年 3 月完成交易，目的之一就是强化云计算和 AI 时代的安全能力。

很快，类似的安全投入一定会越来越巨大。

原因也很简单，未来 AI 产业越繁荣，企业能够创造和积累的价值就越多，安全能力也会变得越来越重要，投入也会越来越大。

那么，在 AI 安全领域，你是否看到了新的风险和机会呢？
一起在评论区聊聊。

以上就是今天的内容，提醒一下，明年一月的CES展又开始招募了，届时我将和万维钢老师一起，带你在产业一线，看懂AI落地的真实状况和未来趋势！感兴趣的朋友，请点击链接填报信息和咨询客服。

更多科技产业的一线洞察和底层规律，欢迎加入科技特训营，和我一起，先人一步，领先一路！

王煜全要闻评论，我们下周见。

↓长按图片扫码报名，先人一步，领先一路

↓点击报名前哨AI小课，赶上Agent浪潮！

最后， 鉴于公众 号推送机制的改变，你未来刷 到要闻评论的机会可能没那么多了，建议你加入粉丝群，第一时间 得到我的独家前沿分析 ，快快扫码加入吧！