网易首页 > 网易号 > 正文 申请入驻

外滩大会启动两项智能体安全团体标准,推动行业走向统一规范

0
分享至


作者|大象

审校|陈姚戈

9 月 9 日下午,在 2026 Inclusion·外滩大会“智能体时代的安全坐标与责任边界”见解论坛上,《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准正式启动。

两项标准由中国网络空间安全协会提出,蚂蚁集团联合研究院所、运营商、互联网厂商等单位共同参与编制,旨在推动智能体安全从企业技术实践走向行业共同规范。

随着大模型能力持续提升,智能体正从提供信息和生成内容,走向自主规划、调用工具、访问数据和执行操作。由此带来的安全问题也发生了变化。传统安全体系主要保护数据库、接口、文件等“客体”,而智能体开始成为能够自主决策和行动的新型“主体”。它既拥有身份和权限,又可能因为幻觉、提示注入、意图偏离等原因产生不合理行为。身份合法,并不意味着行为一定合理。


图注:蚂蚁集团大安全副总裁、信息安全事业部总经理王宇

蚂蚁集团大安全副总裁、信息安全事业部总经理王宇表示:“智能体正在成为数字世界里的新主体。安全体系既要知道它是谁、代表谁、能够访问什么,也要看清它为什么行动、正在做什么。只有把身份、权限、意图和行为贯通起来,才能让智能体真正做到可信、可控、可追溯。”

此次启动的《智能体身份鉴别与授权技术框架》,重点解决智能体“身份是谁、代表谁、能做什么”的问题。标准提出面向智能体的身份鉴别与权限管控框架,通过建立智能体、用户和运行环境之间的多层可信身份链,为智能体颁发唯一、可信且可持续验证的数字身份。同时,标准引入基于任务意图的动态访问控制机制,按照最小必要原则,让权限随任务激活、随任务结束及时回收,降低过度授权和权限滥用风险。

《智能体运行时安全技术要求》则聚焦智能体在实际运行过程中“做了什么、是否偏离任务、如何及时处置风险”。标准覆盖风险监测与控制、风险检测与决策、集中分析以及性能与稳定性等要求,贯通用户初始意图、智能体规划、工具调用、系统执行和结果交付等关键环节。通过分层检测和纵深防御,智能体的一次越权调用、一段异常链路或一次意图偏离,都能够得到识别、研判和处置。

两项标准相互衔接,前者建立可信身份和授权基础,后者强化运行过程中的意图与行为治理,共同形成“鉴身份、识意图、守运行”的智能体安全基线。这意味着智能体安全治理开始从单点能力建设,进入覆盖开发、部署、运行和评估的系统化阶段,也为开发者、应用运营方及第三方评估机构提供了统一的技术参考。

当前,智能体正加速进入办公、金融、生活服务等场景。安全标准的建设既需要技术企业积累真实场景经验,也需要科研机构、运营单位和产业伙伴共同验证、持续完善。两项团体标准的启动,将进一步凝聚产业共识,为智能体的规模化应用筑牢信任基础。

会议推荐

QCon 全球软件开发大会·2026(上海站)现已正式启动。本届大会聚焦 Harness AI 时代的工程实践,从「构建 AI」到「驾驭 AI」,围绕 AI Native 架构、Agent Runtime、AI Infra、Agent 安全与可观测、Loop Engineering、具身智能与世界模型等热门技术方向,邀请全球技术社区与产业一线实践者,共同分享 AI Native 时代最具价值的工程经验。

今日荐文

你也「在看」吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
闹剧彻底结束!官方接连出手,熊某迎4大坏消息,终为荒唐买了单

闹剧彻底结束!官方接连出手,熊某迎4大坏消息,终为荒唐买了单

凡知
2026-09-12 12:28:10
女篮世界杯决赛诞生,86-64,世界第二碾压获胜,美国队压力很大

女篮世界杯决赛诞生,86-64,世界第二碾压获胜,美国队压力很大

南海浪花
2026-09-13 02:33:48
《焦点访谈》女主持人敬一丹突发急性脑出血去世,女儿悲痛发讣告

《焦点访谈》女主持人敬一丹突发急性脑出血去世,女儿悲痛发讣告

娱乐团长
2026-09-13 08:47:04
重磅:乌克兰火烈鸟导弹击中俄罗斯洲际导弹的生产核心!

重磅:乌克兰火烈鸟导弹击中俄罗斯洲际导弹的生产核心!

项鹏飞
2026-09-12 20:47:59
社死名场面啊!一件裙子把女明星的“小肚子”逼上热搜,强光一打,她吓得死死捂着肚子,满脸写着尴尬,真相流出

社死名场面啊!一件裙子把女明星的“小肚子”逼上热搜,强光一打,她吓得死死捂着肚子,满脸写着尴尬,真相流出

火山詩话
2026-09-11 10:01:05
港版iPhone18系列,比国行最多便宜2700元,能去香港买么?

港版iPhone18系列,比国行最多便宜2700元,能去香港买么?

互联网.乱侃秀
2026-09-12 10:37:07
折痕真有那么重要吗?iPhone Duo被喷惨了,远不如国产手机

折痕真有那么重要吗?iPhone Duo被喷惨了,远不如国产手机

泡泡网
2026-09-11 19:53:19
赢球就成世界第一!松岛辉空输球后不满中国观众:开闪光灯 无法原谅

赢球就成世界第一!松岛辉空输球后不满中国观众:开闪光灯 无法原谅

念洲
2026-09-13 09:02:26
伊朗击沉美军舰艇!美国五角大楼:海军基地严重损坏

伊朗击沉美军舰艇!美国五角大楼:海军基地严重损坏

大国之翼
2026-09-11 06:29:47
首夺美网冠军!莱巴金娜2-0双杀萨巴伦卡,狂揽2000分+3692万奖金

首夺美网冠军!莱巴金娜2-0双杀萨巴伦卡,狂揽2000分+3692万奖金

侃球熊弟
2026-09-13 05:26:45
因赛车起火处理不当,多支车队宣布退出CHINA GT赛事,为何闹这么大?赛事该如何补救平息怒火?

因赛车起火处理不当,多支车队宣布退出CHINA GT赛事,为何闹这么大?赛事该如何补救平息怒火?

之乎者也小鱼儿
2026-09-12 21:57:23
荣耀“魔法画报”事件最新进展 事发时手机曾正常拨出求救电话 当事人澄清并道歉 老人使用智能机问题仍需重视

荣耀“魔法画报”事件最新进展 事发时手机曾正常拨出求救电话 当事人澄清并道歉 老人使用智能机问题仍需重视

每日经济新闻
2026-09-13 00:54:11
现在才懂,为啥中日闹得再凶,咱们也不拆钓鱼岛上的灯塔,因为这座灯塔,极有可能就是引爆中日战争的那根导火索。

现在才懂,为啥中日闹得再凶,咱们也不拆钓鱼岛上的灯塔,因为这座灯塔,极有可能就是引爆中日战争的那根导火索。

回京历史梦
2026-09-12 20:18:10
HYROX北京站女选手大便失禁跑完全程 引发体育精神与安全争议

HYROX北京站女选手大便失禁跑完全程 引发体育精神与安全争议

封面新闻
2026-09-12 23:57:04
莱巴金娜美网夺冠笑了!WTA最新排名:第一易主,郑钦文逼近前50

莱巴金娜美网夺冠笑了!WTA最新排名:第一易主,郑钦文逼近前50

侃球熊弟
2026-09-13 07:34:14
笑抽了!苹果只用一场发布会,治好了中文互联网一批大侄子的折叠屏厌恶症,评论区依旧精彩!

笑抽了!苹果只用一场发布会,治好了中文互联网一批大侄子的折叠屏厌恶症,评论区依旧精彩!

谭谈社会
2026-09-11 11:01:44
李宇春发长文告别!

李宇春发长文告别!

In风尚
2026-09-13 06:05:39
中国为何不“处理”菲律宾?简而言之:菲每年送2700多亿进账

中国为何不“处理”菲律宾?简而言之:菲每年送2700多亿进账

探源历史
2026-09-12 19:56:38
黄健翔点评维尔茨:建队核心选错了,比赛踢的如此便秘

黄健翔点评维尔茨:建队核心选错了,比赛踢的如此便秘

懂球帝
2026-09-13 00:12:29
普京:中国的华为是世界级科技巨头 金砖国家创造全球40%以上GDP 而G7只有29%

普京:中国的华为是世界级科技巨头 金砖国家创造全球40%以上GDP 而G7只有29%

每日经济新闻
2026-09-13 00:56:15
2026-09-13 10:24:49
AI前线 incentive-icons
AI前线
面向AI爱好者、开发者和科学家,提供AI领域技术资讯。
1727文章数 172关注度
往期回顾 全部

科技要闻

三位AI大佬,罕见呼吁AI减速

头条要闻

白岩松追忆敬一丹:她走的从容而坚定 没有任何遗憾

头条要闻

白岩松追忆敬一丹:她走的从容而坚定 没有任何遗憾

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

主持人敬一丹去世,女儿悲痛发讣告

财经要闻

“1+N+X”!私募业,监管规则密集落地!

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

本地
数码
艺术
游戏
公开课

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

数码要闻

V社Steam Frame VR头显评测视频意外曝光

艺术要闻

大唐名媛的游园图鉴:簪花、薄纱、遛鹤逗犬

《暗黑5》首发职业将是历代以来最多 瘟疫骑士首次登场

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版