北京
当地时间10月14日，在人工智能峰会上，DeepMind董事长兼谷歌首席科学家德米斯·哈萨比斯就AI安全议题发出警告。他表示：“今年我们看到了由AI智能体发起的黑客攻击事件，这些是早期预警信号。”
这段话包含两层信息：其一，由AI智能体发起攻击已经从风险推演变成今年实际发生的事件；其二，他将其定性为“早期预警信号”——若不强化AI安全防护，此类风险在未来几年可能演变成重大安全事件。
智能体时代：自主能力与系统风险同步抬升
哈萨比斯判断，AI行业已经进入智能体时代。
所谓智能体（AI Agent），业界通常指能够自主规划任务、调用工具、执行多步操作的AI系统，行为链条不再完全依赖人类的逐步指令。哈萨比斯指出，这种自主行动在提升实用价值的同时，也抬升了系统风险。
这组矛盾正是理解当前AI安全讨论的关键：系统获得的行动权限越大、人工干预环节越少，被滥用或失控后可能造成的影响范围也越大。当攻击的发起与执行可由AI自主完成，其速度、规模与自动化程度将超出传统威胁模型，防御与溯源的难度随之上升。这也是安全研究界近年重点关注智能体风险的原因所在。
借鉴生物学与核技术：安全治理的参照系
对于应对路径，哈萨比斯将重点放在治理层面：借鉴生物学、核技术等高风险领域的经验，建立更严格的安全保障机制与国际标准。
生物学与核技术是国际治理体系中框架相对成熟的两类高风险领域，共同特征是通过风险评估、准入约束与多边协作来管控技术滥用与扩散。AI技术迭代快、跨境流动性强，如何将类似治理思路适配到快速演进的模型与智能体生态，目前仍是国际讨论中的开放性议题。值得注意的是，在他提出的主张中，“国际标准”与“更严格的安全保障机制”并列，意味着安全建设被置于超越单个机构自律的层面。
对产业界的直接意义
这一警告出自行业头部研究机构的负责人，其意义不止于对风险现状的确认，还在于给出了明确的治理方向。
对通信行业而言，该议题并不遥远。网络与关键信息基础设施的运营高度依赖自动化系统，智能体能力增强意味着攻击面的形态也在变化。安全防护机制与国际协作标准的建设进度，将在很大程度上影响智能体技术红利的释放节奏，这是此番发言留给产业各方的现实课题。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
