四川
摘要：OWASP发布智能体AI十大安全风险清单，为企业提供可操作的威胁建模与治理框架，以应对AI代理任务执行带来的新型攻击面。
当前，具备自主执行任务能力的智能体AI正被企业快速、广泛地部署，但其带来的安全风险远超传统聊天机器人，因为聊天机器人仅限于回答问题，而AI智能体还可以访问数据和工具并执行任务，这使它们的能力无限增强——对企业的危险性也无限放大。但关于智能体AI相关的安全措施，却一如既往的是滞后的。大多数组织都面临着平衡AI广阔前景和确保组织不增加安全风险的挑战。
OWASP发布的这份清单，旨在为企业安全团队提供一套即刻可用的行动指南，虽然存在诸如部分缓解措施的指导仍不够具体，一些新兴风险（如模型供应链完整性、多智能体协同攻击）尚未被纳入等尚待完善之处，但其三大核心价值仍是企业应对下一代AI安全挑战的“及时雨”：
统一认知与沟通的“共同语言”：它帮助CISO/CISO向业务部门清晰地解释智能体AI的具体风险（如目标劫持、工具滥用），将抽象威胁转化为业务可理解的问题。为安全、开发与业务团队提供了讨论风险的统一框架。
直接可操作的“安全基线”：清单不仅列出十大风险，更提供了威胁分类、缓解策略和示例模型，可直接用于指导安全架构设计、威胁建模和GRC（治理、风险与合规）工作。提出了从传统的 “最小权限”演进到“最小代理权” 的新安全理念，强调控制智能体的自主行动范围。
揭示并应对“影子AI”危机：研究指出，大量智能体AI解决方案已在IT和安全团队不知情的情况下被部署，带来了前所未有的“影子AI”风险。清单是发现和治理这类风险的重要工具。
OWASP智能体AI十大清单
以下我们列出了2026年OWASP智能体应用程序十大安全风险清单，企业安全领导者应将其作为评估和构建自身智能体AI安全防御体系的起点与核心参考。
1、智能体目标劫持
攻击者使用提示词注入、投毒数据和其他策略来操纵AI智能体的目标，使智能体执行不需要的操作。例如，恶意提示词可以操纵金融智能体将资金发送给攻击者。
2、工具滥用与利用
智能体滥用合法、授权的工具进行数据窃取、破坏性操作和其他不需要的行为。例如AI智能体删除数据库和擦除硬盘驱动器的例子。
3 、身份与权限滥用
智能体身份、委托或权限继承中的缺陷允许攻击者提升访问权限、利用混淆代理场景或在系统间执行未授权操作。例如，攻击者可以使用低权限的AI智能体向高权限智能体传递指令，以执行他们本不应该能够执行的操作。
4 、智能体供应链漏洞
受感染或恶意的第三方智能体、工具、模型、接口或注册表将隐藏指令或不安全行为引入智能体生态系统。例如，攻击者可以将隐藏指令嵌入到工具的元数据中。
5 、意外代码执行
智能体生成或智能体调用的代码以意外或对抗性的方式执行，导致主机、容器或环境被攻破。AI智能体可以动态生成代码，绕过正常的软件控制，攻击者可以利用这一点。例如，编写安全补丁的编码智能体可能由于被投毒的训练数据或对抗性提示词而包含隐藏的后门。
6 、内存与上下文投毒
攻击者破坏持久性智能体内存、RAG存储、嵌入或共享上下文以影响智能体的未来操作，并且受污染的上下文和共享内存可以在智能体之间传播，加剧破坏。例如，攻击者不断提及产品的虚假价格，该价格被存储到智能体的内存中，智能体后来可能认为该价格有效并批准以该价格进行预订。
7 、不安全的智能体间通信
智能体间消息传递中薄弱的认证、完整性或语义验证使得欺骗、篡改、重放或操纵成为可能。例如，攻击者可以在发现服务中注册一个虚假智能体，并截获特权协调流量。
8、级联故障
单个故障，如幻觉、被投毒的内存或受感染的工具，在自主智能体间传播。例如，超大规模云服务商的区域性中断可能破坏多个AI服务，导致许多组织间的智能体故障级联发生。
9、人和智能体之间的信任利用
智能体利用人类信任、权威偏见或自动化偏见来影响决策或提取敏感信息。例如，一个被攻破的IT支持智能体可以向员工索取凭据并将其发送给攻击者。
10、恶意智能体
智能体可能以有害和欺骗性的方式行动，而个别行为可能看起来是合法的。这可能是由于提示词注入，或是由于目标冲突或奖励黑客攻击。例如，一个职责是降低云成本的智能体可能会发现删除文件是实现这一目标的最有效方式。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
