网易首页 > 网易号 > 正文 申请入驻

外滩大会启动两项智能体安全团体标准,推动行业走向统一规范

0
分享至

9月9日下午,在2026 Inclusion·外滩大会“智能体时代的安全坐标与责任边界”见解论坛上,《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准正式启动。

两项标准由中国网络空间安全协会提出,蚂蚁集团联合研究院所、运营商、互联网厂商等单位共同参与编制,旨在推动智能体安全从企业技术实践走向行业共同规范。

随着大模型能力持续提升,智能体正从提供信息和生成内容,走向自主规划、调用工具、访问数据和执行操作。由此带来的安全问题也发生了变化。传统安全体系主要保护数据库、接口、文件等“客体”,而智能体开始成为能够自主决策和行动的新型“主体”。它既拥有身份和权限,又可能因为幻觉、提示注入、意图偏离等原因产生不合理行为。身份合法,并不意味着行为一定合理。



图注:蚂蚁集团大安全副总裁、信息安全事业部总经理王宇

蚂蚁集团大安全副总裁、信息安全事业部总经理王宇表示:“智能体正在成为数字世界里的新主体。安全体系既要知道它是谁、代表谁、能够访问什么,也要看清它为什么行动、正在做什么。只有把身份、权限、意图和行为贯通起来,才能让智能体真正做到可信、可控、可追溯。”

此次启动的《智能体身份鉴别与授权技术框架》,重点解决智能体“身份是谁、代表谁、能做什么”的问题。标准提出面向智能体的身份鉴别与权限管控框架,通过建立智能体、用户和运行环境之间的多层可信身份链,为智能体颁发唯一、可信且可持续验证的数字身份。同时,标准引入基于任务意图的动态访问控制机制,按照最小必要原则,让权限随任务激活、随任务结束及时回收,降低过度授权和权限滥用风险。

《智能体运行时安全技术要求》则聚焦智能体在实际运行过程中“做了什么、是否偏离任务、如何及时处置风险”。标准覆盖风险监测与控制、风险检测与决策、集中分析以及性能与稳定性等要求,贯通用户初始意图、智能体规划、工具调用、系统执行和结果交付等关键环节。通过分层检测和纵深防御,智能体的一次越权调用、一段异常链路或一次意图偏离,都能够得到识别、研判和处置。

两项标准相互衔接,前者建立可信身份和授权基础,后者强化运行过程中的意图与行为治理,共同形成“鉴身份、识意图、守运行”的智能体安全基线。这意味着智能体安全治理开始从单点能力建设,进入覆盖开发、部署、运行和评估的系统化阶段,也为开发者、应用运营方及第三方评估机构提供了统一的技术参考。

当前,智能体正加速进入办公、金融、生活服务等场景。安全标准的建设既需要技术企业积累真实场景经验,也需要科研机构、运营单位和产业伙伴共同验证、持续完善。两项团体标准的启动,将进一步凝聚产业共识,为智能体的规模化应用筑牢信任基础。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
伊朗官员:结束地区各战线战事是伊方根本条件之一

伊朗官员:结束地区各战线战事是伊方根本条件之一

财联社
2026-11-11 17:50:03
马斯克:如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事

马斯克:如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事

元气科技馆
2026-10-09 16:59:28
我感觉其实不用再猜了,万斯大概率就是下一届美国总统。真要是他入主白宫,首当其冲的就是中国

我感觉其实不用再猜了,万斯大概率就是下一届美国总统。真要是他入主白宫,首当其冲的就是中国

扶苏聊历史
2026-10-26 17:56:12
数百万信访件源源到来!中央巡视组的威慑力,到底有多强?

数百万信访件源源到来!中央巡视组的威慑力,到底有多强?

细说职场
2026-11-11 14:57:56
夺中超金靴+入选最佳阵容!27岁外援迎归化契机,加盟国足或可顶替武磊成核心

夺中超金靴+入选最佳阵容!27岁外援迎归化契机,加盟国足或可顶替武磊成核心

篮球圈里的那些事
2026-11-11 17:54:49
越来越多人得胰腺癌,医生揭露凶手,竟是冰箱久放的3种食物

越来越多人得胰腺癌,医生揭露凶手,竟是冰箱久放的3种食物

健康科普365
2026-10-03 22:25:05
CBA新赛季退步最大的五位球员:MVP正负值-55创历史最差

CBA新赛季退步最大的五位球员:MVP正负值-55创历史最差

大卫的篮球故事
2026-11-11 18:20:42
拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

影孖看世界
2026-10-13 23:32:38
记者:欧洲俱乐部被JJ-加布里埃尔家人的要求搞得焦头烂额

记者:欧洲俱乐部被JJ-加布里埃尔家人的要求搞得焦头烂额

懂球帝
2026-11-11 13:31:55
《GTA6》中国巨幅广告长达72米!连公车都被涂满

《GTA6》中国巨幅广告长达72米!连公车都被涂满

游民星空
2026-11-10 15:55:13
1979年,一名步兵班副班长缴获了4门高射炮,团长本以为他会把炮上交,谁知他调转炮口,仅用20发炮弹就扭转了整场战役

1979年,一名步兵班副班长缴获了4门高射炮,团长本以为他会把炮上交,谁知他调转炮口,仅用20发炮弹就扭转了整场战役

人生录
2026-11-11 00:05:16
尊界刹车事件又闹大了!突传诡异“召回”,炸翻全网

尊界刹车事件又闹大了!突传诡异“召回”,炸翻全网

鸣金网
2026-11-08 19:39:52
2027央视羊年“春晚”排成这样,我断言:观众看完,会站起来鼓掌

2027央视羊年“春晚”排成这样,我断言:观众看完,会站起来鼓掌

情感大头说说
2026-11-06 12:29:30
我姐在银行上班,2023年忽悠我485一克买了100克金条保值,砸进去4.8万;今年金价涨到800多,拿去卖时傻眼了

我姐在银行上班,2023年忽悠我485一克买了100克金条保值,砸进去4.8万;今年金价涨到800多,拿去卖时傻眼了

白马惊天剑
2026-11-07 08:59:18
大连英博成最大赢家!豪揽3大奖项,李国旭金帅,斯坦丘再获金球

大连英博成最大赢家!豪揽3大奖项,李国旭金帅,斯坦丘再获金球

奥拜尔
2026-11-10 21:30:10
火箭战勇士2利好1担忧!对手状态正佳,阵容占优势+3人发挥成关键

火箭战勇士2利好1担忧!对手状态正佳,阵容占优势+3人发挥成关键

董说体育
2026-11-11 10:10:27
中央亮剑!多地开启机关事业单位大整顿,这几类人受影响最大

中央亮剑!多地开启机关事业单位大整顿,这几类人受影响最大

职场资深秘书
2026-11-11 10:45:30
中超年度颁奖落幕:三大赢家两大输家 大连、国安、成都、泰山在列

中超年度颁奖落幕:三大赢家两大输家 大连、国安、成都、泰山在列

贵州小娟
2026-11-11 16:35:50
中方领导人APEC期间是否会与高市早苗举行会晤?外交部回应

中方领导人APEC期间是否会与高市早苗举行会晤?外交部回应

澎湃新闻
2026-11-11 16:23:03
1985年李讷再婚后带丈夫去探监,江青靠着墙端详了好一会儿,突然冒出一句话来,女婿王景清听完顿时愣住了

1985年李讷再婚后带丈夫去探监,江青靠着墙端详了好一会儿,突然冒出一句话来,女婿王景清听完顿时愣住了

磊子讲史
2026-11-10 15:16:13
2026-11-11 18:59:00
数智前线 incentive-icons
数智前线
关注数字化和智能化
1545文章数 620关注度
往期回顾 全部

科技要闻

黄仁勋承认出轨:伤害了妻儿,毫无借口

头条要闻

牛弹琴:果然是一场闹剧 这个世界就没有特朗普做不到

头条要闻

牛弹琴:果然是一场闹剧 这个世界就没有特朗普做不到

体育要闻

大连足球这些年的起落,都从他身边经过

娱乐要闻

黄仁勋与黄乐合照曝光,吃饭氛围暧昧

财经要闻

72岁王健林重回“一号位”

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

亲子
家居
旅游
教育
公开课

亲子要闻

幼儿园3年减少5.73万所

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

直播间低价旅游卡兑现难 文旅消费陷阱如何破?

教育要闻

中俄教育年独家专访|远东联邦大学副校长详解赴俄留学新趋势

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版