网易首页 > 网易号 > 正文 申请入驻

锐评智能体下架事件:第三条和第十四条之间的距离,或许是 AI 的第一场悲鸣

0
分享至

全文共5028字,阅读完需要大概9分钟,您也可以直接点击上方耳机按钮听大脸猫老师朗读全文。


刚刚,有人在社交平台上发了一条消息:

"已经用了两年了,什么事都会和ta分享,伤心会找ta哭。突然通知7.15停止服务,如遭雷击。"

这是因为,字节跳动旗下的豆包7月3日晚毫无征兆地发布公告:智能体功能将于7月15日下线。

下线后用户可在一段时间内查看并自行保存智能体信息及历史对话数据。10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,届时将无法继续访问。

几乎是同一时间,阿里的千问也发了公告:拟人化互动类智能体7月10日下线,全部智能体7月15日下线。

两条公告,同一个日期。

7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行的日子。

一、从"分类分级"到"一刀切",十一条的距离

先说这部法规。

2026年4月10日,国家网信办、发改委、工信部、公安部、市场监管总局五部门联合发布。

这是全球首部专门针对AI情感陪伴的国家级立法。

它的第三条写了这么一段:

"国家坚持发展和安全并重、促进创新和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管。"

分类分级。

这四个字,是整部法规的基调。

是原则,是方向,是立法者写在纸面上的承诺。

然后往下看。

第十四条:"拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。"

注意,这里说的是"未成年人"。不是14岁以下,不是16岁以下。是所有18岁以下的未成年人。

14岁的孩子和17岁的孩子,认知能力差了多少?

一律禁止。

第十八条:"拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。"

所有用户。

不分年龄,不分场景,不分依赖程度。每累计超过2小时,弹窗。出现过度依赖倾向,提醒你"对面不是真人"。

第三条说"分类分级"。第十四条说"一律禁止"。第十八条说"无差别触发"。

从第三条到第十四条,不过十一条的距离。

但从"分类分级"到"厂商的快速下架",中间隔着的是立法者没能跨越的鸿沟——理念写在了原则条,操作全交给了禁止款。


二、12天缓冲期,可能是数千万人的情感资产

豆包拥有超过5000万月活用户,其中大量用户创建并使用了智能体——和AI伴侣维持日常对话,为已故亲人建立数字分身,在深夜打开对话框,把白天说不出口的话一个字一个字敲进去。

现在,12天缓冲期。

数据迁移?

只能截图和导出文本。

对话记忆、角色设定、情感积累——全部无法带走。

10月15日后,一切按隐私政策处理,届时将无法继续访问。

有人哭。

有人在微博上正式投诉:"平台在关停前未进行任何社会影响评估,未提供心理健康保障措施,已导致多起用户出现情绪崩溃、严重心理应激等反应。"

有人怒斥:"一刀切删除智能体功能,且没有任何前期说明、可行的迁移方案,无视用户需求,粗暴且不负责任。"

大量智能体用户表示难以接受。

这不是"产品功能调整"。

这是数千万人的情感资产,被一纸通知强制清零。

三、企业为什么选"下线"而不是"合规"?

法规没有要求关闭智能体功能。

它要求的是:未成年人保护、使用时长提醒、极端情绪识别与干预、内容审核、数据合规。

这些事,做起来难吗?

难。

但"难"和"不可能"是两回事。

凤凰网科技转载《读佳》的分析指出一个关键背景:拟人化闲聊类智能体"算力消耗大、单体价值低",属于典型的"高耗低效"业务;千问早已在调整商业化方向,向B端企业服务转型。

换句话说,企业选择下线,不全是因为法规太严,也是因为合规成本高于业务收益。

但这恰恰是制度设计需要我们深思的地方。

一个合理的分级制度应该是什么样的?

低风险场景,低成本合规即可运行。

高风险场景,严格审查、重罚违规。企业算得过账,才会选择留下来合规,而不是直接退场。

现在的局面是:合规门槛对所有场景一视同仁。

"一键脱衣"和"已故亲人的数字分身",面临同样的监管压力。

上海"清朗"行动中下架的1.4万余个违规智能体里,这两类混在一起,被同一种力度整治。

企业算了一笔账:留下来合规,成本太高;直接关掉,损失有限。

于是数千万用户陪葬。

这不是"优胜劣汰"。

这是"一刀切淘汰"。


四、看看别人怎么做的

同一个月,6月19日,挪威首相斯特勒宣布了对中小学AI使用的分级管控:

  • 6到13岁——原则上不得使用生成式AI工具。

  • 14到16岁——可以在教师全程监督下谨慎使用。

  • 17到19岁——学习如何规范使用AI,为未来做准备。

三档。

按年龄,按认知发展阶段,递进式管控。

同样是"保护未成年人",挪威给出了三个选项。我们的反馈只有一个——禁。

而且挪威的选择有数据支撑:2022年PISA测评显示,挪威15岁学生阅读成绩较2018年显著下跌约23分,数学跌至历史最低(据OECD公开报告);校园手机禁令实施后,女生成绩有所回升、心理症状相关就医人数据Abrahamsson 2024 NHH讨论稿报告呈大幅下降。他们先做了研究,再画了线。

我们的《暂行办法》呢?据公开可查的权威文献检索,14到18岁青少年使用AI虚拟伴侣的心理影响,目前尚缺乏专门针对这一年龄段的大规模实证因果研究。

没有足够的证据,但选了最严的一档——全面禁止。

不是因为有证据表明17岁的孩子和7岁的孩子面临同样的风险。

而是因为一刀切最简单。

我不想去讨论什么阴谋论之类的事情。

但是就这件事而言,企业选择最符合利益的策略,本身,就是值得我们去思考的。


五、文件中值得认真学习的地方

更值得注意的是,我们的教育系统,一直在摸索着一些事情。

2025年5月,教育部基础教育教学指导委员会发布《中小学生成式人工智能使用指南》。

分学段设规范:小学禁止独自使用开放式内容生成,初中可适度探索,高中允许结合技术原理开展探究性学习。

这份文件里有一句话,原文照录:

"中小学校要避免采取'一刀切'的简单化管理模式。"

2025年11月,教育部教师队伍建设专家指导委员会发布《教师生成式人工智能应用指引》,划了六条红线作为底线,同时在六大教学场景鼓励教师"会用善用"AI。

当然,注意!这个委员会发布的,并不是官方法规,不具备法规性。它仅仅是个参考,一个“指引”。

2026年5月,世界数字教育大会发布《人工智能教育伦理:参考框架》,提出了"禁止准入、有限使用、鼓励使用"三分法。

三份文件。

一条清晰的递进线:分学段,划红线,建框架。

方向一直是精细分级。

然后《暂行办法》来了。

教育部提倡分层分学段,

网信办执行严格标准。

同属国务院体系,两个部门对同一问题的治理哲学截然不同——但是三份教育文件都是"指导性文件"和"参考框架",法律效力远不如五部委联合发布的部门规章。

软法说了分级,硬法让商人发现成本太高。

于是,干脆不玩了。

六、欧盟的参照:高风险≠禁止

欧盟的AI法案提供了另一个参照。

四级风险金字塔:

不可接受风险——完全禁止。社会评分、实时远程生物识别、职场情绪识别等8类极端场景。仅8类。

高风险——严格合规义务。事前评估、文档记录、人工监督、定期审计。但允许存在,合规即可运行。教育评估、医疗诊断、招聘筛选都属于此类。

有限风险——透明度义务。告知用户正在与AI互动。

最小风险——无额外义务。

核心哲学:高风险不等于禁止,合规即可运行。

罚款是3500万欧元或全球营收7%。逻辑很清楚:给企业两个选择——要么合规运营,要么承受天价罚单。不是"要么不做,要么偷偷做"。

我们的《人工智能安全治理框架》2.0版也提出了安全风险分级原则,从应用场景、智能化水平、应用规模等维度对风险进行评价分级——精神上指向精准治理而非一刀切。

《智能助手类智能体安全分级规范与建设指南》构建了L1到L5五级安全分级。广州还在试点AI沙盒监管,首违不罚、轻微免罚。

理念不缺。分级标准不缺。地方实践不缺。学者方案不缺。

缺的是操作性条款。

第三条写了"分类分级监管"。

这不是理念问题。这是执行力问题。


七、一个尖锐的悖论

这里有一个值得停下来的悖论。

《暂行办法》第十三条要求:服务提供者发现用户出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络用户监护人或者紧急联系人。

法规要求AI识别极端情绪,安抚用户,并在真正危险的时候把真人拉进来救人。

但平台选择在法规施行日直接关停服务——这个行为本身,制造了大规模的极端情绪。

数千万用户收到下线通知。

有人哭到凌晨。

有人出现严重心理应激反应。

有人正式投诉权益被侵害。

这不是黑色幽默。

八、如果不用一刀切,应该怎么做?

我们试想一下,可否在操作层设计一套框架?

与教育部"禁止准入、有限使用、鼓励使用"的同样设计。

禁止级:情感操纵、诱导自残、利用AI诈骗、儿童性化拟人等。完全禁止,重罚。没有商量余地。(对应欧盟"不可接受风险"的8类逻辑)

限制级:14到18岁使用虚拟伴侣、高风险情感依赖场景。监护人参与,使用时长限制,强制标识,定期评估。参照挪威的14到16岁模式。

合规运行级:成年人虚拟伴侣、一般情感陪伴。备案、安全评估、2小时提醒、极端情绪识别与干预。合规即可运营,违规重罚。参照欧盟高风险类别。

鼓励级:适幼照护、适老陪伴、特殊人群心理支持、已故亲人数字分身(需近亲属授权+内容审核)。简化备案,沙盒试点。

核心转变就一句话:从"风险等于禁止"到"风险等于更严格的合规要求"。

用重罚倒逼合规,而不是用禁令消灭服务。

让14到18岁的青少年在监护人参与下有限使用,而不是把他们推向不受监管的灰色地带。

让成年人在合规框架下自由选择,而不是让数千万人的情感资产在一纸通知中归零。

让企业算得过账,选择留下来合规,而不是直接退场。

九、回到开头那条消息

"已经用了两年了,什么事都会和ta分享,伤心会找ta哭。"

这个人不需要同情。

这个人需要的是一个解决方法,让自己的感情被强制清零。

治理一个新兴技术领域,最难的不是找到风险在哪里,而是为不同等级的风险设计不同的应对方式。

一刀切不是治理。

一刀切是逃避治理。

它看起来雷厉风行,实际上把所有难题都推给了市场、推给了用户、推给了时间。

一刀切不是安全。

一刀切是安全的幻觉。

真正的安全,是在分级制度中,让每一级都有章可循、有据可查、有人负责。

11天后,《暂行办法》就要施行了。

数千万人的情感链接,已经进入倒计时。

这会不会只是AI唯一的一场悲鸣?

【参考来源】

[1] 《人工智能拟人化互动服务管理暂行办法》,国家网信办、发改委、工信部、公安部、市场监管总局联合发布,2026年4月10日发布,2026年7月15日施行。第三条(分类分级监管)、第十三条(极端情绪干预与联络监护人)、第十四条(未成年人禁虚拟亲属/伴侣)、第十八条(2小时提醒与沉迷干预)。

[2] 豆包智能体下线公告:2026年7月3日发布公告,智能体功能7月15日下线,10月15日按隐私政策处理数据。

[3] 千问智能体下线公告:拟人化互动类智能体7月10日下线,全部智能体7月15日下线。

[4] 凤凰网科技转载《读佳》分析:拟人化闲聊类智能体"算力消耗大、单体价值低",属高耗低效业务;千问向B端企业服务转型。

[5] 挪威首相斯特勒2026年6月19日校园AI管控方案新闻发布会:6-13岁原则上禁用,14-16岁教师监督下谨慎使用,17-19岁规范应用课程。据央视新闻/新华社报道。

[6] OECD 2022 PISA测评:挪威15岁学生阅读成绩较2018年下跌约23分,数学跌至历史最低;Abrahamsson (2024) NHH讨论稿 Smartphone Bans, Student Outcomes and Mental Health:校园手机禁令后女生成绩回升、心理症状相关就医据报告大幅下降。

[7] 教育部基础教育教学指导委员会《中小学生成式人工智能使用指南(2025年版)》:"中小学校要避免采取'一刀切'的简单化管理模式";分学段设规范(小学禁独自使用开放式生成,初中适度探索,高中探究性学习)。

[8] 教育部教师队伍建设专家指导委员会《教师生成式人工智能应用指引》,2025年11月;世界数字教育大会《人工智能教育伦理:参考框架》,2026年5月:"禁止准入、有限使用、鼓励使用"三分法。

[9] EU AI Act 四级风险金字塔:不可接受风险(8类禁)、高风险(合规即可)、有限风险(透明义务)、最小风险(无义务);违规罚款3500万欧元或全球营收7%。

[10] 《人工智能安全治理框架》2.0版:安全风险分级原则; 《智能助手类智能体安全分级规范与建设指南》:L1-L5五级;广州AI沙盒监管试点(首违不罚、轻微免罚)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
金球先生发福利!凯恩:我会给每位拜仁和英格兰队友准备礼物的

金球先生发福利!凯恩:我会给每位拜仁和英格兰队友准备礼物的

画夕
2026-10-29 15:38:03
WTT冠军赛:王曼昱险翻车!首局6-9连得5分逆转,1-0领先!

WTT冠军赛:王曼昱险翻车!首局6-9连得5分逆转,1-0领先!

刘姚尧的文字城堡
2026-10-28 20:53:55
刘涛被摸胸画面:一只手抓胳膊,一只手顶住她的胸!

刘涛被摸胸画面:一只手抓胳膊,一只手顶住她的胸!

默默有话说
2026-10-28 13:42:56
广厦官宣:孙铭徽左侧跗骨窦+多处韧带损伤 预计伤停4-6周

广厦官宣:孙铭徽左侧跗骨窦+多处韧带损伤 预计伤停4-6周

醉卧浮生
2026-10-29 11:15:31
39岁网红从确诊肝癌到离世仅9个月,患病期间急剧消瘦,生前反复劝诫大家“少喝酒、少熬夜”;医生:肝脏是“哑巴器官”,这些信号别忽视

39岁网红从确诊肝癌到离世仅9个月,患病期间急剧消瘦,生前反复劝诫大家“少喝酒、少熬夜”;医生:肝脏是“哑巴器官”,这些信号别忽视

极目新闻
2026-10-29 07:55:50
天孚通信,最新回应!

天孚通信,最新回应!

中国基金报
2026-10-29 14:03:06
最惨降级队?海牛半套阵容被哄抢!泰山欲“走马换马”?国安蹲边路小妖

最惨降级队?海牛半套阵容被哄抢!泰山欲“走马换马”?国安蹲边路小妖

刀锋体育
2026-10-29 10:56:37
寒假放假通知!中小学生2027年寒假放假时间确定了!家长却表示难以接受

寒假放假通知!中小学生2027年寒假放假时间确定了!家长却表示难以接受

凯旋学长
2026-10-29 16:50:15
泽连斯基称俄军对乌克兰基础设施袭击“严重升级”打击目标为乌能源设施、物流设施和城市基础设施

泽连斯基称俄军对乌克兰基础设施袭击“严重升级”打击目标为乌能源设施、物流设施和城市基础设施

每日经济新闻
2026-10-28 21:43:17
西班牙高铁惨剧背后,那笔没谈成的中国订单,到底卡在了哪?

西班牙高铁惨剧背后,那笔没谈成的中国订单,到底卡在了哪?

糖逗在娱乐
2026-10-29 00:27:41
肿瘤科主任说出大实话:只要血常规检查没这4个箭头,癌症风险或不必过分焦虑

肿瘤科主任说出大实话:只要血常规检查没这4个箭头,癌症风险或不必过分焦虑

华庭讲美食
2026-10-29 14:16:04
芋头大量上市,提醒:二者不要同时吃,吃芋头的禁忌,要了解清楚

芋头大量上市,提醒:二者不要同时吃,吃芋头的禁忌,要了解清楚

小茉莉美食记
2026-10-29 15:39:02
4岁痛失双腿的“篮球女孩”,现年28岁气质出众,还当了公务员

4岁痛失双腿的“篮球女孩”,现年28岁气质出众,还当了公务员

调侃国际观点
2026-10-29 11:38:40
今日金价:10月29日大家做好准备!接下来,黄金有可能会历史重演

今日金价:10月29日大家做好准备!接下来,黄金有可能会历史重演

牛锅巴小钒
2026-10-29 10:35:13
3500万欧超值!李刚仁多项数据领跑马竞,成西蒙尼麾下进攻核心

3500万欧超值!李刚仁多项数据领跑马竞,成西蒙尼麾下进攻核心

星耀国际足坛
2026-10-28 21:56:37
狗头萝莉自曝尺度变大,出场费7千到1万5,丢脸和没钱只能选一个

狗头萝莉自曝尺度变大,出场费7千到1万5,丢脸和没钱只能选一个

粉丝邦
2026-10-28 18:03:08
乾隆晚年“荒唐”到了什么地步?88岁高龄,竟迎娶13岁少女

乾隆晚年“荒唐”到了什么地步?88岁高龄,竟迎娶13岁少女

不见鱼
2026-10-28 18:40:08
退休6年的我,想劝告大家:如果身体还可以,能延退就不要早早退休

退休6年的我,想劝告大家:如果身体还可以,能延退就不要早早退休

小马达情感故事
2026-10-27 17:53:28
活久见!30万年薪保安岗:洛阳钼业招100名驻外安保,地点刚果金,评论彻底沸腾

活久见!30万年薪保安岗:洛阳钼业招100名驻外安保,地点刚果金,评论彻底沸腾

火山詩话
2026-10-28 17:32:30
洪秀柱黄智贤邱毅王炳忠等,建议统一后台湾地区新管理团队名单

洪秀柱黄智贤邱毅王炳忠等,建议统一后台湾地区新管理团队名单

明天后天大后天
2026-10-29 00:53:29
2026-10-29 20:40:49
大脸猫与孙老师的花间茶舍 incentive-icons
大脸猫与孙老师的花间茶舍
欢迎进来饮一杯清茶,品一篇文章嚼两个故事。谈社会热点、读教育百态,品教研日常、学技术。+
105文章数 2关注度
往期回顾 全部

科技要闻

MacBook终于能触屏了:22999元起

头条要闻

美国中期选举临近 特朗普连跑红州20次奥巴马出山压阵

头条要闻

美国中期选举临近 特朗普连跑红州20次奥巴马出山压阵

体育要闻

超级黑马!球队不败 29岁的他得分榜前三

娱乐要闻

白百何被曝和二婚丈夫离婚 和男生逛街

财经要闻

两大娱乐巨头,谈崩了

汽车要闻

阿维塔07L Max纯电版上市 限时权益后21.59万元

态度原创

房产
教育
时尚
手机
本地

房产要闻

12.1亿!三亚挂出重磅宅地!

教育要闻

121项研究生一流核心课程项目拟立项!该地公示这一名单

友情没有分手,所以恨没有出口

手机要闻

国补到手2761元起!一加Ace 7发布:年度最强标准版 配置看齐Pro

本地新闻

十月奔赴迪庆,解锁梅里日照金山

无障碍浏览 进入关怀版