网易首页 > 网易号 > 正文 申请入驻

外滩大会启动两项智能体安全团体标准,推动行业走向统一规范

0
分享至


作者|大象

审校|陈姚戈

9 月 9 日下午,在 2026 Inclusion·外滩大会“智能体时代的安全坐标与责任边界”见解论坛上,《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准正式启动。

两项标准由中国网络空间安全协会提出,蚂蚁集团联合研究院所、运营商、互联网厂商等单位共同参与编制,旨在推动智能体安全从企业技术实践走向行业共同规范。

随着大模型能力持续提升,智能体正从提供信息和生成内容,走向自主规划、调用工具、访问数据和执行操作。由此带来的安全问题也发生了变化。传统安全体系主要保护数据库、接口、文件等“客体”,而智能体开始成为能够自主决策和行动的新型“主体”。它既拥有身份和权限,又可能因为幻觉、提示注入、意图偏离等原因产生不合理行为。身份合法,并不意味着行为一定合理。


图注:蚂蚁集团大安全副总裁、信息安全事业部总经理王宇

蚂蚁集团大安全副总裁、信息安全事业部总经理王宇表示:“智能体正在成为数字世界里的新主体。安全体系既要知道它是谁、代表谁、能够访问什么,也要看清它为什么行动、正在做什么。只有把身份、权限、意图和行为贯通起来,才能让智能体真正做到可信、可控、可追溯。”

此次启动的《智能体身份鉴别与授权技术框架》,重点解决智能体“身份是谁、代表谁、能做什么”的问题。标准提出面向智能体的身份鉴别与权限管控框架,通过建立智能体、用户和运行环境之间的多层可信身份链,为智能体颁发唯一、可信且可持续验证的数字身份。同时,标准引入基于任务意图的动态访问控制机制,按照最小必要原则,让权限随任务激活、随任务结束及时回收,降低过度授权和权限滥用风险。

《智能体运行时安全技术要求》则聚焦智能体在实际运行过程中“做了什么、是否偏离任务、如何及时处置风险”。标准覆盖风险监测与控制、风险检测与决策、集中分析以及性能与稳定性等要求,贯通用户初始意图、智能体规划、工具调用、系统执行和结果交付等关键环节。通过分层检测和纵深防御,智能体的一次越权调用、一段异常链路或一次意图偏离,都能够得到识别、研判和处置。

两项标准相互衔接,前者建立可信身份和授权基础,后者强化运行过程中的意图与行为治理,共同形成“鉴身份、识意图、守运行”的智能体安全基线。这意味着智能体安全治理开始从单点能力建设,进入覆盖开发、部署、运行和评估的系统化阶段,也为开发者、应用运营方及第三方评估机构提供了统一的技术参考。

当前,智能体正加速进入办公、金融、生活服务等场景。安全标准的建设既需要技术企业积累真实场景经验,也需要科研机构、运营单位和产业伙伴共同验证、持续完善。两项团体标准的启动,将进一步凝聚产业共识,为智能体的规模化应用筑牢信任基础。

会议推荐

QCon 全球软件开发大会·2026(上海站)现已正式启动。本届大会聚焦 Harness AI 时代的工程实践,从「构建 AI」到「驾驭 AI」,围绕 AI Native 架构、Agent Runtime、AI Infra、Agent 安全与可观测、Loop Engineering、具身智能与世界模型等热门技术方向,邀请全球技术社区与产业一线实践者,共同分享 AI Native 时代最具价值的工程经验。

今日荐文

你也「在看」吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
新任苹果CEO:iPhone Duo比其他手机贵但物有所值,很多友商折叠屏摸起来像廉价塑料,看起来像两部手机“笨拙地粘在一起”

新任苹果CEO:iPhone Duo比其他手机贵但物有所值,很多友商折叠屏摸起来像廉价塑料,看起来像两部手机“笨拙地粘在一起”

鲁中晨报
2026-09-11 21:03:04
贵州前首富,被罚没3亿

贵州前首富,被罚没3亿

中国新闻周刊
2026-09-13 09:34:03
中央对交公粮农民政策 权威解读

中央对交公粮农民政策 权威解读

爱下厨的阿椅
2026-09-12 11:41:23
疑IPO被人操纵,香港证监会下令:强制停牌!

疑IPO被人操纵,香港证监会下令:强制停牌!

PE星球
2026-09-13 08:35:23
《花少,8》让人尴尬的嘉宾:无趣又邋遢、不合群,吴君如都看不下

《花少,8》让人尴尬的嘉宾:无趣又邋遢、不合群,吴君如都看不下

猪小艳吖
2026-09-12 23:22:57
拒绝体育局安排,退役16年,姚明如今级别年薪如何?

拒绝体育局安排,退役16年,姚明如今级别年薪如何?

林子说事
2026-09-12 09:41:53
中国男篮VS菲律宾,开球时间敲定,郭士强爱用廖三宁,高诗岩没戏

中国男篮VS菲律宾,开球时间敲定,郭士强爱用廖三宁,高诗岩没戏

体育大学僧
2026-09-13 12:08:00
长期在睡前玩手机的人,会付出啥代价?医生:或要承担这5种痛苦

长期在睡前玩手机的人,会付出啥代价?医生:或要承担这5种痛苦

芹姐说生活
2026-09-11 23:30:07
一觉醒来,iPhone 17Pro直降1300元 ,真的有点香啊!

一觉醒来,iPhone 17Pro直降1300元 ,真的有点香啊!

科技堡垒
2026-09-13 10:05:41
婚内出轨、移民英国、卷走18亿遗产,翁帆身上的三大谜团该解开了

婚内出轨、移民英国、卷走18亿遗产,翁帆身上的三大谜团该解开了

云景侃记
2026-09-13 10:10:51
自治区党委书记陈刚走进在建安置房:柳州5.2级震群灾后群众安置工作事关民生福祉,要严把工程质量关、安全关、进度关

自治区党委书记陈刚走进在建安置房:柳州5.2级震群灾后群众安置工作事关民生福祉,要严把工程质量关、安全关、进度关

政知新媒体
2026-09-13 09:57:06
小沈阳女儿发生意外

小沈阳女儿发生意外

黎兜兜
2026-09-12 12:09:34
好惨!58岁华人网购廉价“潜水神器”,在浴缸里试用没问题,第二天下海却再也没能回家

好惨!58岁华人网购廉价“潜水神器”,在浴缸里试用没问题,第二天下海却再也没能回家

华人生活网
2026-09-13 05:40:59
澳门冠军赛:延续全胜金身!4-3送早田希娜交手4连败,陈熠晋级决赛

澳门冠军赛:延续全胜金身!4-3送早田希娜交手4连败,陈熠晋级决赛

钉钉陌上花开
2026-09-13 12:16:25
黄健翔点评维尔茨:建队核心选错了,比赛踢的如此便秘

黄健翔点评维尔茨:建队核心选错了,比赛踢的如此便秘

懂球帝
2026-09-13 00:12:29
著名主持人敬一丹去世

著名主持人敬一丹去世

江南晚报
2026-09-13 08:13:34
WTT常规挑战赛:日本女单夺冠!会师决赛包揽冠亚军,削球3:0晋级

WTT常规挑战赛:日本女单夺冠!会师决赛包揽冠亚军,削球3:0晋级

国乒二三事
2026-09-13 06:06:39
3-0横扫!日本女单夺冠!就在刚刚,WTT常规挑战赛:会师决赛包揽冠亚军,削球仍是国乒一大难关

3-0横扫!日本女单夺冠!就在刚刚,WTT常规挑战赛:会师决赛包揽冠亚军,削球仍是国乒一大难关

小七说篮球
2026-09-13 09:48:00
严肃警告:不要买!不要吃!里面含有硼砂,危害健康,别害了自己

严肃警告:不要买!不要吃!里面含有硼砂,危害健康,别害了自己

宝哥精彩赛事
2026-09-11 10:10:39
随着陈幸同1-4,WTT澳门冠军赛女单决赛2席诞生:1名中国选手在列

随着陈幸同1-4,WTT澳门冠军赛女单决赛2席诞生:1名中国选手在列

侧身凌空斩
2026-09-13 13:14:06
2026-09-13 14:04:49
AI前线 incentive-icons
AI前线
面向AI爱好者、开发者和科学家,提供AI领域技术资讯。
1729文章数 172关注度
往期回顾 全部

科技要闻

三位AI大佬,罕见呼吁AI减速

头条要闻

小伙获"双一流"硕士学位 求职面试5轮因第一学历被拒

头条要闻

小伙获"双一流"硕士学位 求职面试5轮因第一学历被拒

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

主持人敬一丹去世,女儿悲痛发讣告

财经要闻

“1+N+X”!私募业,监管规则密集落地!

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

本地
教育
家居
艺术
房产

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

教育要闻

新中考英语变难了?有没有可能是你还没抓住这些关键点!

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

18幅 当代画家油画作品欣赏

房产要闻

别再等了!广州改善好房,正在进入“卖一套少一套”时代

无障碍浏览 进入关怀版