北京
当OpenAI、Anthropic、Google和微软这些彼此竞争的AI公司，同时在一封公开信上签名，事情就不再只是普通的安全提醒。
这封名为《呼吁集体行动加强网络防御》的公开信，目前已获得超过120家机构响应。签署者不仅包括AWS、Cloudflare、CrowdStrike、GitHub和甲骨文，还有银行、保险、通信及互联网基础设施企业。
它们作出了一个并不轻松的判断：随着各国模型能力快速提升，AI辅助的网络攻击可能在未来数月变得更加普遍和复杂。医院、水处理系统以及维持互联网运行的基础设施，都可能成为目标。
这不意味着AI会在几个月后突然“失控”，更不是某场攻击的倒计时。企业真正担心的是，AI正在大幅降低攻击门槛。过去需要熟练黑客花费数天完成的漏洞搜索、代码编写和身份伪装，未来可能被自动化工具批量执行。
与此同时，许多现实系统还背负着长期没有修复的漏洞、过度开放的权限、弱密码、错误配置和技术债务。攻击端获得了速度，防守端却仍受限于预算、人手以及不能随意停机升级的老旧设备。
公开信提出四方面行动：企业管理层应把网络安全提升为紧急事项；安全公司要向关键基础设施提供更便宜、易部署的AI防御工具；政府应为缺少资金的医院、水务机构和地方部门提供支持；前沿AI公司则要加强行为监控，让智能体的身份和操作可以追踪、审计和问责。
但争议也由此产生：发出警告的企业，恰恰也是不断提高AI能力上限的开发者。如果风险由全社会承担，安全产品却成为新的收费生意，这种模式显然难以获得信任。
我认为，真正需要警惕的并不是AI突然产生恶意，而是强大的自动化能力遇上了防护薄弱的现实世界。AI不需要拥有情绪，只要能更快发现漏洞、不断尝试并跨系统行动，就足以放大一次普通失误。
因此，AI安全不能只停留在“建议用户加强防护”。开发者还应承担模型审计、事故披露、权限追踪和外部测试责任。谁把能力推向市场，谁就应该为相应的风险投入资源。
下一阶段的AI竞争，不仅要比较谁的模型更聪明，还要回答一个更实际的问题：当它做出错误行动时，我们能不能及时发现、立即停止，并找到真正需要负责的人？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
