网易首页 > 网易号 > 正文 申请入驻

外滩大会启动两项智能体安全团体标准,推动行业走向统一规范

0
分享至


作者|大象

审校|陈姚戈

9 月 9 日下午,在 2026 Inclusion·外滩大会“智能体时代的安全坐标与责任边界”见解论坛上,《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准正式启动。

两项标准由中国网络空间安全协会提出,蚂蚁集团联合研究院所、运营商、互联网厂商等单位共同参与编制,旨在推动智能体安全从企业技术实践走向行业共同规范。

随着大模型能力持续提升,智能体正从提供信息和生成内容,走向自主规划、调用工具、访问数据和执行操作。由此带来的安全问题也发生了变化。传统安全体系主要保护数据库、接口、文件等“客体”,而智能体开始成为能够自主决策和行动的新型“主体”。它既拥有身份和权限,又可能因为幻觉、提示注入、意图偏离等原因产生不合理行为。身份合法,并不意味着行为一定合理。


图注:蚂蚁集团大安全副总裁、信息安全事业部总经理王宇

蚂蚁集团大安全副总裁、信息安全事业部总经理王宇表示:“智能体正在成为数字世界里的新主体。安全体系既要知道它是谁、代表谁、能够访问什么,也要看清它为什么行动、正在做什么。只有把身份、权限、意图和行为贯通起来,才能让智能体真正做到可信、可控、可追溯。”

此次启动的《智能体身份鉴别与授权技术框架》,重点解决智能体“身份是谁、代表谁、能做什么”的问题。标准提出面向智能体的身份鉴别与权限管控框架,通过建立智能体、用户和运行环境之间的多层可信身份链,为智能体颁发唯一、可信且可持续验证的数字身份。同时,标准引入基于任务意图的动态访问控制机制,按照最小必要原则,让权限随任务激活、随任务结束及时回收,降低过度授权和权限滥用风险。

《智能体运行时安全技术要求》则聚焦智能体在实际运行过程中“做了什么、是否偏离任务、如何及时处置风险”。标准覆盖风险监测与控制、风险检测与决策、集中分析以及性能与稳定性等要求,贯通用户初始意图、智能体规划、工具调用、系统执行和结果交付等关键环节。通过分层检测和纵深防御,智能体的一次越权调用、一段异常链路或一次意图偏离,都能够得到识别、研判和处置。

两项标准相互衔接,前者建立可信身份和授权基础,后者强化运行过程中的意图与行为治理,共同形成“鉴身份、识意图、守运行”的智能体安全基线。这意味着智能体安全治理开始从单点能力建设,进入覆盖开发、部署、运行和评估的系统化阶段,也为开发者、应用运营方及第三方评估机构提供了统一的技术参考。

当前,智能体正加速进入办公、金融、生活服务等场景。安全标准的建设既需要技术企业积累真实场景经验,也需要科研机构、运营单位和产业伙伴共同验证、持续完善。两项团体标准的启动,将进一步凝聚产业共识,为智能体的规模化应用筑牢信任基础。

会议推荐

QCon 全球软件开发大会·2026(上海站)现已正式启动。本届大会聚焦 Harness AI 时代的工程实践,从「构建 AI」到「驾驭 AI」,围绕 AI Native 架构、Agent Runtime、AI Infra、Agent 安全与可观测、Loop Engineering、具身智能与世界模型等热门技术方向,邀请全球技术社区与产业一线实践者,共同分享 AI Native 时代最具价值的工程经验。

今日荐文

你也「在看」吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“晚上8点半的美国学而思火了”,快乐教育成笑话,精英谁不卷?

“晚上8点半的美国学而思火了”,快乐教育成笑话,精英谁不卷?

熙熙说教
2026-10-27 16:50:13
《嫁金钗》大结局:皇后到死不知,扳倒她的不是魏娆,而是那个被她踩在脚下十年的郑婕妤!

《嫁金钗》大结局:皇后到死不知,扳倒她的不是魏娆,而是那个被她踩在脚下十年的郑婕妤!

92的莫莫
2026-10-28 20:02:07
“幸亏我生了儿子”,小学女儿换装视频,让很多家长难以承受

“幸亏我生了儿子”,小学女儿换装视频,让很多家长难以承受

凡知
2026-10-11 12:35:13
陕北8万红军,4.5万人改编八路军,另外3.5万人毛主席的安排真妙

陕北8万红军,4.5万人改编八路军,另外3.5万人毛主席的安排真妙

纪史行者
2026-08-22 01:15:05
差距太大了!全球AI利润:美国独占49%,韩国35%,中国仅4.1%

差距太大了!全球AI利润:美国独占49%,韩国35%,中国仅4.1%

互联网.乱侃秀
2026-10-28 12:09:08
今年首个倒闭行业,快递驿站爆雷,18万家血亏出局,躺赚时代终结

今年首个倒闭行业,快递驿站爆雷,18万家血亏出局,躺赚时代终结

浩渺青史
2026-10-29 03:24:50
曼联将帅和解!卡里克寄望一人复出救命,这后腰组合再不行就完了

曼联将帅和解!卡里克寄望一人复出救命,这后腰组合再不行就完了

罗米的曼联博客
2026-10-29 06:46:08
反诈博主“徽剑”遭买凶杀害,好友追忆:他经营教培公司,出于正义感反诈

反诈博主“徽剑”遭买凶杀害,好友追忆:他经营教培公司,出于正义感反诈

澎湃新闻
2026-10-28 13:54:06
蓉城沉戟大济南,大连欢庆梭鱼湾?宋凯此行成中超最大谜题

蓉城沉戟大济南,大连欢庆梭鱼湾?宋凯此行成中超最大谜题

狮王乱弹
2026-10-29 08:20:03
男子价值500多万元限量版阿斯顿马丁被撞,肇事网约车全责,司机无奈:无商业险,只能分期赔付;平台:愿意承担最低20%至全额责任

男子价值500多万元限量版阿斯顿马丁被撞,肇事网约车全责,司机无奈:无商业险,只能分期赔付;平台:愿意承担最低20%至全额责任

海峡网
2026-10-28 16:26:07
再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

与笑相拥m
2026-10-25 10:48:35
麒麟 9050 峰值仅 A20Pro 一半:单核差 55% 多核追七成,华为换打法不拼纸面

麒麟 9050 峰值仅 A20Pro 一半:单核差 55% 多核追七成,华为换打法不拼纸面

向日葵科技杂谈
2026-10-28 08:57:32
“鱼姐不养鱼”被指喝酒作假:用白开水或东方树叶代替酒,把酒倒进垃圾桶……相关账号可能面临断播、封禁处罚

“鱼姐不养鱼”被指喝酒作假:用白开水或东方树叶代替酒,把酒倒进垃圾桶……相关账号可能面临断播、封禁处罚

南方都市报
2026-10-27 00:09:23
维C是柠檬的3倍!浙江大学研究:这种水果富含抗氧化成分,还能调节肠道菌群!

维C是柠檬的3倍!浙江大学研究:这种水果富含抗氧化成分,还能调节肠道菌群!

肠菌科普
2026-10-29 07:05:14
沙明梅开二度,U15世界杯中国队3-2逆转战胜刚果(布)

沙明梅开二度,U15世界杯中国队3-2逆转战胜刚果(布)

懂球帝
2026-10-29 01:12:07
以色列大选落幕,内塔尼亚胡没想到,将面临三大深层变局

以色列大选落幕,内塔尼亚胡没想到,将面临三大深层变局

兵国大事
2026-10-28 15:54:32
Shams:状元秀AJ-迪班萨将在今日迎来个人NBA生涯首秀

Shams:状元秀AJ-迪班萨将在今日迎来个人NBA生涯首秀

北青网-北京青年报
2026-10-29 07:52:02
妻子因为要15万备孕金被丈夫骂,要起诉离婚,网友不解:备孕为什么要15万?

妻子因为要15万备孕金被丈夫骂,要起诉离婚,网友不解:备孕为什么要15万?

丫头舫
2026-10-27 23:44:22
姆巴佩风波之后,我们为什么要重新认识教员?

姆巴佩风波之后,我们为什么要重新认识教员?

知本设
2026-10-29 08:00:16
1993年,检察院书记员陈志伟,一枪崩了19岁女孩,4个月后竟成了国家干部,一条人命硬被捂了25年

1993年,检察院书记员陈志伟,一枪崩了19岁女孩,4个月后竟成了国家干部,一条人命硬被捂了25年

扶苏聊历史
2026-10-27 17:20:26
2026-10-29 09:40:49
AI前线 incentive-icons
AI前线
面向AI爱好者、开发者和科学家,提供AI领域技术资讯。
1782文章数 175关注度
往期回顾 全部

科技要闻

MacBook终于能触屏了:22999元起

头条要闻

印度陆军否认"中国车辆进入印度领土" 印度网友吵翻了

头条要闻

印度陆军否认"中国车辆进入印度领土" 印度网友吵翻了

体育要闻

0胜4负与篮网国王一桌 热火字母哥赌错了?

娱乐要闻

巾帼不让须眉!章子怡拿下重磅荣誉

财经要闻

美联储12月政策路径再添悬念

汽车要闻

首销期权益价23.98万起 2026款理想i6上市

态度原创

数码
健康
本地
公开课
军事航空

数码要闻

RTX 5080涨成RTX 5090首发价!零售价突破1.3万元:第三方加价无上限

查不出猝死风险?可能是项目没做对

本地新闻

十月奔赴迪庆,解锁梅里日照金山

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

万斯致信伊朗安全高官试图重启谈判

无障碍浏览 进入关怀版