行业领导者携手成立“开放安全 AI 联盟”，推动 AI 安全和保障发展

NVIDIA 与数十家创始成员组建新联盟，旨在构建和共享开放工具，促进负责任地使用 AI 并增强对 AI 的信任。

开源软件是全球经济的重要支柱。它通过让专家社区能够访问和观察技术，为云计算、金融服务、制造业、电信、政府和互联网服务提供了坚实的基础。

网络安全是开源软件的三大受益领域之一。开放安全 AI 联盟 (Open Secure AI Alliance) —— 在 Linux 基金会的 Akrites 倡议和 OpenSSF 社区工作的基础上发展而来 —— 将使用开放技术修复和披露漏洞。

正如开源为软件构筑了共享的基石，我们及合作伙伴如今在 AI 安全领域也面临一个选择：保护我们基础设施的防御系统，究竟是应该置于少数不透明的系统中，还是应该建立在任何防御者都能研究、调整和部署的开放的模型、Harness 和工具上。

世界既需要闭源模型，也需要开放模型。对于网络安全而言，开放模型和开放框架至关重要，因为它们实现了防御能力普及化，提高了防御者的透明度，在保护数据的同时实现网络防御，并通过可定制的本地化管理对前沿的闭源模型进行了补充。开源技术支持大规模分布式的、社区驱动且自主可控的防御 —— 不存在单点故障。

与任何强大的技术一样，开放模型也可能被滥用，包括试图削弱其安全保护或将功能用于网络攻击，但这些风险并非开放系统所独有，无论先进 AI 部署于何处，都必须对这些风险进行妥善管理。

最近发生的 Hugging Face 安全事件提供了一个清晰的提醒：网络防御者需要开放的、前沿的智能体系统来进行自我防御。当无法区分攻击者和防御者的闭源 AI 工具阻碍了关键的取证分析时，Hugging Face 在自己的基础设施上运行了开放权重 GLM 5.2 模型，分析了超过 17,000 个动作，并遏制了入侵。

这一事件揭示了一个现实：当防御者无法在自己的基础设施上检查、调整和运行先进的 AI 时，他们的响应能力恰恰在最需要速度的时刻受到了限制。企业和国家/地区需要开放的前沿防御工具和技术，以便关键行业能够在多供应商生态系统中构建安全系统，并避免单点故障。

这就是开放安全 AI 联盟的使命：确保世界各地的防御者拥有其可信任和管理的开放前沿工具。

来自云计算、网络安全、企业软件、开源基金会和 AI 研究领域的领导者 —— 包括 NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、the Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab 和 TrendAI 皆是开放安全 AI 联盟的创始合作伙伴。该联盟旨在开发和共享开放技术、方法和工具，以在 AI 时代保障软件和智能体的安全。

有人认为，开放模型本身就存在安全隐患，因为它们可能被滥用于网络攻击或被修改以移除安全护栏。这些风险是真实存在的，但它们不会在闭源系统中消失，仅靠封闭权重并不能阻止蓄意攻击者去设法找到或利用强大的 AI。

正确的应对措施不是拒绝防御者访问功能强大的开放系统。而应该将开放性与强有力的保障措施、明确的反恶意滥用规则、严格的评估和快速修复相结合。在网络安全领域，更安全的路径是赋予更多的防御者能够测试、验证和加强社会所依赖的系统的能力。

防御者需要前沿闭源模型和前沿开放模型协同工作，以便他们能够选择适合任务的系统，并确保在安全需求所及之处，可实现透明化、适配性和自主可控。

以上为摘要内容，请点击链接阅读完整内容：行业领导者携手成立“开放安全 AI 联盟”，推动 AI 安全和保障发展 | NVIDIA 英伟达博客