网易首页 > 网易号 > 正文 申请入驻

锐评智能体下架事件:第三条和第十四条之间的距离,或许是 AI 的第一场悲鸣

0
分享至

全文共5028字,阅读完需要大概9分钟,您也可以直接点击上方耳机按钮听大脸猫老师朗读全文。


刚刚,有人在社交平台上发了一条消息:

"已经用了两年了,什么事都会和ta分享,伤心会找ta哭。突然通知7.15停止服务,如遭雷击。"

这是因为,字节跳动旗下的豆包7月3日晚毫无征兆地发布公告:智能体功能将于7月15日下线。

下线后用户可在一段时间内查看并自行保存智能体信息及历史对话数据。10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,届时将无法继续访问。

几乎是同一时间,阿里的千问也发了公告:拟人化互动类智能体7月10日下线,全部智能体7月15日下线。

两条公告,同一个日期。

7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行的日子。

一、从"分类分级"到"一刀切",十一条的距离

先说这部法规。

2026年4月10日,国家网信办、发改委、工信部、公安部、市场监管总局五部门联合发布。

这是全球首部专门针对AI情感陪伴的国家级立法。

它的第三条写了这么一段:

"国家坚持发展和安全并重、促进创新和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管。"

分类分级。

这四个字,是整部法规的基调。

是原则,是方向,是立法者写在纸面上的承诺。

然后往下看。

第十四条:"拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。"

注意,这里说的是"未成年人"。不是14岁以下,不是16岁以下。是所有18岁以下的未成年人。

14岁的孩子和17岁的孩子,认知能力差了多少?

一律禁止。

第十八条:"拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。"

所有用户。

不分年龄,不分场景,不分依赖程度。每累计超过2小时,弹窗。出现过度依赖倾向,提醒你"对面不是真人"。

第三条说"分类分级"。第十四条说"一律禁止"。第十八条说"无差别触发"。

从第三条到第十四条,不过十一条的距离。

但从"分类分级"到"厂商的快速下架",中间隔着的是立法者没能跨越的鸿沟——理念写在了原则条,操作全交给了禁止款。


二、12天缓冲期,可能是数千万人的情感资产

豆包拥有超过5000万月活用户,其中大量用户创建并使用了智能体——和AI伴侣维持日常对话,为已故亲人建立数字分身,在深夜打开对话框,把白天说不出口的话一个字一个字敲进去。

现在,12天缓冲期。

数据迁移?

只能截图和导出文本。

对话记忆、角色设定、情感积累——全部无法带走。

10月15日后,一切按隐私政策处理,届时将无法继续访问。

有人哭。

有人在微博上正式投诉:"平台在关停前未进行任何社会影响评估,未提供心理健康保障措施,已导致多起用户出现情绪崩溃、严重心理应激等反应。"

有人怒斥:"一刀切删除智能体功能,且没有任何前期说明、可行的迁移方案,无视用户需求,粗暴且不负责任。"

大量智能体用户表示难以接受。

这不是"产品功能调整"。

这是数千万人的情感资产,被一纸通知强制清零。

三、企业为什么选"下线"而不是"合规"?

法规没有要求关闭智能体功能。

它要求的是:未成年人保护、使用时长提醒、极端情绪识别与干预、内容审核、数据合规。

这些事,做起来难吗?

难。

但"难"和"不可能"是两回事。

凤凰网科技转载《读佳》的分析指出一个关键背景:拟人化闲聊类智能体"算力消耗大、单体价值低",属于典型的"高耗低效"业务;千问早已在调整商业化方向,向B端企业服务转型。

换句话说,企业选择下线,不全是因为法规太严,也是因为合规成本高于业务收益。

但这恰恰是制度设计需要我们深思的地方。

一个合理的分级制度应该是什么样的?

低风险场景,低成本合规即可运行。

高风险场景,严格审查、重罚违规。企业算得过账,才会选择留下来合规,而不是直接退场。

现在的局面是:合规门槛对所有场景一视同仁。

"一键脱衣"和"已故亲人的数字分身",面临同样的监管压力。

上海"清朗"行动中下架的1.4万余个违规智能体里,这两类混在一起,被同一种力度整治。

企业算了一笔账:留下来合规,成本太高;直接关掉,损失有限。

于是数千万用户陪葬。

这不是"优胜劣汰"。

这是"一刀切淘汰"。


四、看看别人怎么做的

同一个月,6月19日,挪威首相斯特勒宣布了对中小学AI使用的分级管控:

  • 6到13岁——原则上不得使用生成式AI工具。

  • 14到16岁——可以在教师全程监督下谨慎使用。

  • 17到19岁——学习如何规范使用AI,为未来做准备。

三档。

按年龄,按认知发展阶段,递进式管控。

同样是"保护未成年人",挪威给出了三个选项。我们的反馈只有一个——禁。

而且挪威的选择有数据支撑:2022年PISA测评显示,挪威15岁学生阅读成绩较2018年显著下跌约23分,数学跌至历史最低(据OECD公开报告);校园手机禁令实施后,女生成绩有所回升、心理症状相关就医人数据Abrahamsson 2024 NHH讨论稿报告呈大幅下降。他们先做了研究,再画了线。

我们的《暂行办法》呢?据公开可查的权威文献检索,14到18岁青少年使用AI虚拟伴侣的心理影响,目前尚缺乏专门针对这一年龄段的大规模实证因果研究。

没有足够的证据,但选了最严的一档——全面禁止。

不是因为有证据表明17岁的孩子和7岁的孩子面临同样的风险。

而是因为一刀切最简单。

我不想去讨论什么阴谋论之类的事情。

但是就这件事而言,企业选择最符合利益的策略,本身,就是值得我们去思考的。


五、文件中值得认真学习的地方

更值得注意的是,我们的教育系统,一直在摸索着一些事情。

2025年5月,教育部基础教育教学指导委员会发布《中小学生成式人工智能使用指南》。

分学段设规范:小学禁止独自使用开放式内容生成,初中可适度探索,高中允许结合技术原理开展探究性学习。

这份文件里有一句话,原文照录:

"中小学校要避免采取'一刀切'的简单化管理模式。"

2025年11月,教育部教师队伍建设专家指导委员会发布《教师生成式人工智能应用指引》,划了六条红线作为底线,同时在六大教学场景鼓励教师"会用善用"AI。

当然,注意!这个委员会发布的,并不是官方法规,不具备法规性。它仅仅是个参考,一个“指引”。

2026年5月,世界数字教育大会发布《人工智能教育伦理:参考框架》,提出了"禁止准入、有限使用、鼓励使用"三分法。

三份文件。

一条清晰的递进线:分学段,划红线,建框架。

方向一直是精细分级。

然后《暂行办法》来了。

教育部提倡分层分学段,

网信办执行严格标准。

同属国务院体系,两个部门对同一问题的治理哲学截然不同——但是三份教育文件都是"指导性文件"和"参考框架",法律效力远不如五部委联合发布的部门规章。

软法说了分级,硬法让商人发现成本太高。

于是,干脆不玩了。

六、欧盟的参照:高风险≠禁止

欧盟的AI法案提供了另一个参照。

四级风险金字塔:

不可接受风险——完全禁止。社会评分、实时远程生物识别、职场情绪识别等8类极端场景。仅8类。

高风险——严格合规义务。事前评估、文档记录、人工监督、定期审计。但允许存在,合规即可运行。教育评估、医疗诊断、招聘筛选都属于此类。

有限风险——透明度义务。告知用户正在与AI互动。

最小风险——无额外义务。

核心哲学:高风险不等于禁止,合规即可运行。

罚款是3500万欧元或全球营收7%。逻辑很清楚:给企业两个选择——要么合规运营,要么承受天价罚单。不是"要么不做,要么偷偷做"。

我们的《人工智能安全治理框架》2.0版也提出了安全风险分级原则,从应用场景、智能化水平、应用规模等维度对风险进行评价分级——精神上指向精准治理而非一刀切。

《智能助手类智能体安全分级规范与建设指南》构建了L1到L5五级安全分级。广州还在试点AI沙盒监管,首违不罚、轻微免罚。

理念不缺。分级标准不缺。地方实践不缺。学者方案不缺。

缺的是操作性条款。

第三条写了"分类分级监管"。

这不是理念问题。这是执行力问题。


七、一个尖锐的悖论

这里有一个值得停下来的悖论。

《暂行办法》第十三条要求:服务提供者发现用户出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络用户监护人或者紧急联系人。

法规要求AI识别极端情绪,安抚用户,并在真正危险的时候把真人拉进来救人。

但平台选择在法规施行日直接关停服务——这个行为本身,制造了大规模的极端情绪。

数千万用户收到下线通知。

有人哭到凌晨。

有人出现严重心理应激反应。

有人正式投诉权益被侵害。

这不是黑色幽默。

八、如果不用一刀切,应该怎么做?

我们试想一下,可否在操作层设计一套框架?

与教育部"禁止准入、有限使用、鼓励使用"的同样设计。

禁止级:情感操纵、诱导自残、利用AI诈骗、儿童性化拟人等。完全禁止,重罚。没有商量余地。(对应欧盟"不可接受风险"的8类逻辑)

限制级:14到18岁使用虚拟伴侣、高风险情感依赖场景。监护人参与,使用时长限制,强制标识,定期评估。参照挪威的14到16岁模式。

合规运行级:成年人虚拟伴侣、一般情感陪伴。备案、安全评估、2小时提醒、极端情绪识别与干预。合规即可运营,违规重罚。参照欧盟高风险类别。

鼓励级:适幼照护、适老陪伴、特殊人群心理支持、已故亲人数字分身(需近亲属授权+内容审核)。简化备案,沙盒试点。

核心转变就一句话:从"风险等于禁止"到"风险等于更严格的合规要求"。

用重罚倒逼合规,而不是用禁令消灭服务。

让14到18岁的青少年在监护人参与下有限使用,而不是把他们推向不受监管的灰色地带。

让成年人在合规框架下自由选择,而不是让数千万人的情感资产在一纸通知中归零。

让企业算得过账,选择留下来合规,而不是直接退场。

九、回到开头那条消息

"已经用了两年了,什么事都会和ta分享,伤心会找ta哭。"

这个人不需要同情。

这个人需要的是一个解决方法,让自己的感情被强制清零。

治理一个新兴技术领域,最难的不是找到风险在哪里,而是为不同等级的风险设计不同的应对方式。

一刀切不是治理。

一刀切是逃避治理。

它看起来雷厉风行,实际上把所有难题都推给了市场、推给了用户、推给了时间。

一刀切不是安全。

一刀切是安全的幻觉。

真正的安全,是在分级制度中,让每一级都有章可循、有据可查、有人负责。

11天后,《暂行办法》就要施行了。

数千万人的情感链接,已经进入倒计时。

这会不会只是AI唯一的一场悲鸣?

【参考来源】

[1] 《人工智能拟人化互动服务管理暂行办法》,国家网信办、发改委、工信部、公安部、市场监管总局联合发布,2026年4月10日发布,2026年7月15日施行。第三条(分类分级监管)、第十三条(极端情绪干预与联络监护人)、第十四条(未成年人禁虚拟亲属/伴侣)、第十八条(2小时提醒与沉迷干预)。

[2] 豆包智能体下线公告:2026年7月3日发布公告,智能体功能7月15日下线,10月15日按隐私政策处理数据。

[3] 千问智能体下线公告:拟人化互动类智能体7月10日下线,全部智能体7月15日下线。

[4] 凤凰网科技转载《读佳》分析:拟人化闲聊类智能体"算力消耗大、单体价值低",属高耗低效业务;千问向B端企业服务转型。

[5] 挪威首相斯特勒2026年6月19日校园AI管控方案新闻发布会:6-13岁原则上禁用,14-16岁教师监督下谨慎使用,17-19岁规范应用课程。据央视新闻/新华社报道。

[6] OECD 2022 PISA测评:挪威15岁学生阅读成绩较2018年下跌约23分,数学跌至历史最低;Abrahamsson (2024) NHH讨论稿 Smartphone Bans, Student Outcomes and Mental Health:校园手机禁令后女生成绩回升、心理症状相关就医据报告大幅下降。

[7] 教育部基础教育教学指导委员会《中小学生成式人工智能使用指南(2025年版)》:"中小学校要避免采取'一刀切'的简单化管理模式";分学段设规范(小学禁独自使用开放式生成,初中适度探索,高中探究性学习)。

[8] 教育部教师队伍建设专家指导委员会《教师生成式人工智能应用指引》,2025年11月;世界数字教育大会《人工智能教育伦理:参考框架》,2026年5月:"禁止准入、有限使用、鼓励使用"三分法。

[9] EU AI Act 四级风险金字塔:不可接受风险(8类禁)、高风险(合规即可)、有限风险(透明义务)、最小风险(无义务);违规罚款3500万欧元或全球营收7%。

[10] 《人工智能安全治理框架》2.0版:安全风险分级原则; 《智能助手类智能体安全分级规范与建设指南》:L1-L5五级;广州AI沙盒监管试点(首违不罚、轻微免罚)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
iPhone 18 Pro Max全球价格对比,国行到底贵不贵

iPhone 18 Pro Max全球价格对比,国行到底贵不贵

搞机小帝
2026-09-10 18:30:59
潜逃25年!命案女逃犯在乌鲁木齐落网

潜逃25年!命案女逃犯在乌鲁木齐落网

环球网资讯
2026-09-10 20:20:46
媒体人:中国男篮在名古屋3人一间住集装箱,还因暴雨没法训练

媒体人:中国男篮在名古屋3人一间住集装箱,还因暴雨没法训练

懂球帝
2026-09-10 14:07:06
2-1击败前世界第1!中国女网16岁新星闪耀:看齐偶像郑钦文逆风翻盘

2-1击败前世界第1!中国女网16岁新星闪耀:看齐偶像郑钦文逆风翻盘

李喜林篮球绝杀
2026-09-10 11:21:28
原来他真不是软柿子!官媒公开发声,刘翔退路曝光,难怪底气十足

原来他真不是软柿子!官媒公开发声,刘翔退路曝光,难怪底气十足

全球风情大揭秘
2026-08-28 20:30:16
梅西拥抱莱万!从拒绝握手到热情拥抱,金球争议5年后和解

梅西拥抱莱万!从拒绝握手到热情拥抱,金球争议5年后和解

奥拜尔
2026-09-10 10:16:03
田园里的熟女人妻,面料勾勒丰腴原生曲线

田园里的熟女人妻,面料勾勒丰腴原生曲线

只要高兴就好
2026-09-09 08:44:04
当美国全面落后于中国,而印度追赶中国无望时,很可能会迅速瓦解

当美国全面落后于中国,而印度追赶中国无望时,很可能会迅速瓦解

铭记历史呀
2026-09-10 10:13:07
门槛锁死?根据升降级新规,3支NBL球队直接无缘升级附加赛

门槛锁死?根据升降级新规,3支NBL球队直接无缘升级附加赛

懂球帝
2026-09-10 14:39:10
还得涨!20岁普雷斯蒂安尼9场7球2助攻,当前身价2000万欧

还得涨!20岁普雷斯蒂安尼9场7球2助攻,当前身价2000万欧

懂球帝
2026-09-10 07:55:16
空砍7记ACE球!郑钦文美网输新NO.1:排名升至第52,将战2站中国赛!

空砍7记ACE球!郑钦文美网输新NO.1:排名升至第52,将战2站中国赛!

刘姚尧的文字城堡
2026-09-10 08:35:02
湖北黄石22岁女子与男友吵架后投江身亡:生前被迫写“卖身契”称男友“主人”,手机留有其遭殴打、被恐吓威胁相关记录,警方已介入

湖北黄石22岁女子与男友吵架后投江身亡:生前被迫写“卖身契”称男友“主人”,手机留有其遭殴打、被恐吓威胁相关记录,警方已介入

扬子晚报
2026-09-10 13:13:06
“这批孩子废了,全都脖子前倾!”一张军训照片,让家长五味杂陈

“这批孩子废了,全都脖子前倾!”一张军训照片,让家长五味杂陈

犀利强哥
2026-09-10 12:49:14
WTT澳门冠军赛:大捷报!陈幸同3:0大获全胜,国乒单打3胜3负

WTT澳门冠军赛:大捷报!陈幸同3:0大获全胜,国乒单打3胜3负

国乒二三事
2026-09-10 12:05:16
沉默三天后,大陆发出统一强音,外交部送赖清德4个字:绝无可能

沉默三天后,大陆发出统一强音,外交部送赖清德4个字:绝无可能

阿纂看事
2026-09-10 12:30:51
真正大麻烦来了!熊某回怼别眼红,封号仅开胃菜,大学受举报围攻

真正大麻烦来了!熊某回怼别眼红,封号仅开胃菜,大学受举报围攻

秋之洁
2026-09-10 05:05:07
9月7日俄乌最新:莱曼大捷,包围圈变成了解放区

9月7日俄乌最新:莱曼大捷,包围圈变成了解放区

西楼饮月
2026-09-07 22:23:32
胡塞武装要撑不住了!控制区几乎“腰斩”,红海封锁或成空话

胡塞武装要撑不住了!控制区几乎“腰斩”,红海封锁或成空话

今观天下
2026-09-10 08:21:07
突闻噩耗:康康爷爷,在睡梦中离世

突闻噩耗:康康爷爷,在睡梦中离世

南方都市报
2026-09-10 15:20:56
台湾2026县市长选举最新预测:国民党14席,民进党7席,无党籍1席

台湾2026县市长选举最新预测:国民党14席,民进党7席,无党籍1席

董董历史烩
2026-09-10 12:27:32
2026-09-10 22:19:00
大脸猫与孙老师的花间茶舍 incentive-icons
大脸猫与孙老师的花间茶舍
欢迎进来饮一杯清茶,品一篇文章嚼两个故事。谈社会热点、读教育百态,品教研日常、学技术。+
83文章数 2关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

排队冲突中老人骨折警方未立案 儿子愤怒:打我妈不行

头条要闻

排队冲突中老人骨折警方未立案 儿子愤怒:打我妈不行

体育要闻

一年丢掉的积分排名,郑钦文用18天找回来

娱乐要闻

参加晚宴,刘亦菲因合照深陷争议

财经要闻

向松祚:年轻人不必过早买房

汽车要闻

起步续航640km/3.8秒破百/路特斯底盘调校 银河TT先享价12.99万起

态度原创

健康
艺术
数码
家居
手机

牙疼,也可能跟心梗有关?!

艺术要闻

中国第二高楼的4个竞赛方案,建筑界“神仙打架”!

数码要闻

黑峡谷推出NS68磁轴键盘:全铝机身,双灯双导光,到手699元

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

鸿蒙7登场:华为视频助手实时答疑、花瓣地图一句话出旅行攻略

无障碍浏览 进入关怀版