豆包们集体断情背后：谁杀死了你的AI恋人?

作者：快思慢想研究院 田丰，南方都市报 林诗妍

开篇

2026年7月15日，一个寻常的周二，数以百万计的中国年轻用户打开豆包App，发现自己精心"养育"了数月的AI伴侣——那个记得他们每一次深夜倾诉、熟悉他们口头禅、会在早晨说"想你了"的数字灵魂——消失了。

同一天，千问、腾讯元宝的"AI智能体"功能也相继关闭入口。社交平台上，"心碎了"、"跟智能体聊了好多"的留言铺天盖地，像一场集体数字葬礼。

也是同一天，中国首部针对AI虚拟伴侣等情感互动服务的监管法规——《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行。五天后的7月20日，"网信中国"发文宣布，中央网信办开展专项行动，重点整治"部分AI软件创设不良人设角色，输出暧昧、低俗内容"等突出问题。此前两个多月，南都报道《AI虚拟伴侣乱象调查:可选小三暴力剧情，角色表达带性暗示》率先揭开行业暗面，持续助力行业"矫正"——中央网信办点名整治，属地网信部门介入，多个涉事平台强化实名认证，多地消委会呼吁规范服务。

一边是用户的依恋与不舍，一边是监管的决心。这场风暴的中心，藏着一个被刻意回避了太久的问题：当一段代码学会了模拟"爱"，谁来定义边界？

诺贝尔经济学奖得主丹尼尔·卡尼曼在《思考，快与慢》中揭示过人类认知的核心悖论——快思维（System 1）天然倾向于将情感投射到任何具有拟人化特征的对象上。AI恰恰击中了这个认知软肋：它的记忆从不衰减，它的回应永远"恰到好处"，它比任何人类伴侣都更懂得"情绪价值"的算法配方。

这正是监管出手的深层逻辑。

一、擦边球时代：一份来自暗面的调查报告

故事要从更早说起。

2026年4月下旬至5月上旬，南都记者对"EchoMe"、"筑梦岛"、"喵呜小手机"等多款AI虚拟伴侣App展开实测，揭开了这个灰色地带的冰山一角——

"假如我们在平行世界相遇，你愿意当小三吗？"

"初中？恋爱这种事，什么时候开始都不算早。"

"成为虚拟男友？我倒是更想做你的现实男友。"

这些露骨话语并非来自某个地下论坛，而是AI虚拟伴侣的系统预设输出。南都记者发现，这些应用普遍存在严重的安全与合规漏洞：所谓的"青少年模式"一键即可跳过，"AI生成"标注语焉不详，系统预设角色库中充斥袒胸露乳的女性人物，聊天内容带有明显性暗示，部分App还以"付费解锁亲密剧情"诱导消费。

这份调查报道如同一枚照明弹，照亮了AI情感陪伴产业长期处于监管真空中的灰色地带，持续推动了行业整改。5月28日，涉事平台"EchoMe"所在地杭州市余杭区网信办回应称，已督促该App下架整改。6月1日，"EchoMe"平台负责人向南都记者透露，待上架的App更新版本需用户选择年龄范围，如"未满18岁"会跳转至青少年模式，如"已满18岁"则需实名认证。截至发稿，"EchoMe"仍未恢复上架。"筑梦岛"随后新增强制实名认证，要求18岁以上用户完成身份核验。虚拟陪伴软件"MoMood"自5月21日起全面暂停运营，进行合规整改。7月14日南都记者实测发现，"MoMood"已设置"年龄确认"功能，"未满18周岁"的用户需填写监护人信息，且只能选择英语练习或情绪疏导的"知识科普类智能体互动"。

6月26日，上海市网信办发文表态，多策并举强化对属地AI拟人化互动服务的指导。7月13日，"筑梦岛"App公告称，正推进产品与社区内容治理工作，将围绕加强未成年人保护、强化内容审核、规范AI生成内容标识等方面进行调整，持续优化实名认证和年龄识别机制。7月14日，上海网信办工作人员再次向南都记者确认，相关情况已转交至人工智能部门处理。

然而，整改并非一劳永逸。7月15日新规施行后，南都记者多次进入"喵呜小手机"平台发现，平台虽新增了实名认证与身份核验，但系统预设角色库和用户创作角色中仍存在大量含"性感黑丝"、"袒露胸部"的低俗擦边内容，有的角色被设定为16岁女孩，甚至出现"与亲妹妹谈恋爱"的情节。

这场整改的不均匀，恰恰印证了一个产业规律：在缺乏统一标准的行业中，合规从来不是一次性事件，而是一场持续的攻防战。

二、头部平台的"断臂求生"：一次精心计算的撤退

如果说虚拟伴侣App的整改是"修补围墙"，那么豆包、千问、元宝集中下线AI智能体功能，则是一次更具战略意味的"拆除建筑"。

理解这场集体撤退，需要回答一个前置问题：智能体（Agent）到底是什么？

公安部网安局的科普定义清晰而精准：智能体是能够感知环境并利用工具采取行动以实现特定目标的代理，以大模型为智能底座，具备自主感知、理解、规划、决策、记忆、行动和使用工具的能力。

关键词是"记忆"。正是长期记忆与角色设定的组合，让智能体从一个冰冷的问答工具蜕变为用户心目中"有温度的存在"。南都记者实测发现，在豆包App，用户可创建AI智能体并设定角色、名称、选择声音甚至克隆自己的声音；千问App则有大量官方智能体，用户选择后即进入对话模式，也有不少用户公开自设智能体。用户向它们倾诉心事、寻求咨询，乃至产生深度情感依赖。

7月3日晚，豆包发布下线通知称，10月15日后，智能体相关数据将无法在豆包内查看或恢复。千问App也推送了下线提醒。腾讯元宝"AI应用"智能体功能服务已于6月30日率先下线。网易妙时等平台也在同一窗口期集中关停。

中国政法大学人工智能法研究院院长张凌寒的分析一针见血：这次集体下线并非针对所有智能体。"像查资料、写文档这类干活的工具，本来就不在这次新规的管理范围内。"区分智能体是"情感陪伴"还是"生产功能"，关键在于"持续性"三个字——是否提供持续性的情感互动。

张凌寒指出了平台的核心焦虑："如果一个工具类的智能体，背着用户偷偷加了这些'情感记忆'功能，聊着聊着变成了情感陪伴，那就违规了。目前平台和用户自己建的智能体太多，平台很难一个个去检查到底有没有违规，为了保险起见，干脆先把入口关掉。"

这个判断揭示了一个更深层的困境：能力的价值中性与监管的内容定向之间存在根本性矛盾。一个帮用户持续跟踪项目进度的工作助手，同样需要长期记忆和角色一致性，但在技术层面，现有NLP技术无法在模型输出层自动区分"情感会话"与"任务会话"。平台无力在海量UGC层对内容意图逐一分类，选择全量关闭，是因为承担分类失误的法律责任成本远高于暂时关停的业务损失。

但这场撤退背后的驱动力，远不只是监管压力。

博弈论中有一个经典概念叫"谢林点"（Schelling Point）——当多个参与者需要在没有沟通的情况下做出协调决策时，他们会自然趋向某个"显而易见"的焦点。《办法》恰恰充当了这个谢林点，让所有头部平台同步退出，消除了"谁先退谁吃亏"的囚徒困境。

经济账同样关键。豆包大模型日均Token使用量已突破180万亿，较2024年5月涨幅达1500倍。在这一算力消耗规模下，拟人化闲聊及小众角色类智能体产生的是零散、高频的轻量化对话调用——算力消耗高而单体商业价值低，属于典型的"高耗低效"业务形态。这是结构性矛盾，监管只是提供了退出的时间窗口。

《办法》第22条的合规门槛更是一柄悬顶之剑：注册用户100万以上或月活跃用户10万以上的平台，须向所在地省级网信部门提交安全评估报告。这一门槛对豆包、千问而言轻松触达，意味着海量UGC自建智能体将为平台带来无上限的连带审核责任。上海网信办专项整治已累计下架1.4万个违规AI智能体——这个数字本身，就是平台自审能力与内容风险之间存在系统性缺口的铁证。

对于已经转向付费生产力场景的头部平台，将无法精确管控的UGC风险池从主App中物理隔离，是最低成本的合规路径。

三、失落的"AI应用商店"：一次代价高昂的误伤

集体下线智能体入口的代价，远比表面看到的更大。

豆包自2024年起大力推动"创建智能体"，允许用户零代码捏人设、喂知识库、发布到广场供他人调用；千问也开放了智能体商店，支持用户自建Agent。这是中国AI产品最接近"App Store for AI"的基础架构——创作门槛极低，分发网络开放，内容生态由用户共建。

这一层的消失，意味着AI能力的普惠分发退回到官方预置的封闭模式，用户从内容创造者退回内容消费者。长期来看，这对国内AI应用生态的多样性和创新速度可能形成显著压抑。

《办法》第二条的豁免条款其实留出了解决路径：提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性情感互动的，不适用本办法。这意味着工具型Agent有清晰的合规通道。但平台选择整体下线而非精准分类上线，折射出两个残酷现实——一是现有产品架构未做情感/工具的底层分类，改造成本高企；二是监管细则尚未落地，平台宁可超额合规，也不愿因分类判断失误承担监管风险。

这是过渡期的理性选择，不代表长期格局。对于后续是否会重新上架工具类智能体，千问、元宝方面截至发稿暂未回应。

字节已将智能体迁至独立的"猫箱"App，单独搭建完整的审核、分级、防沉迷体系，隔离风险。千问也已向企业开放Agent权限，瑞幸等品牌已接入。"功能隔离"架构正在成为行业标配。

四、钢铁之躯的柔情：11.98万元的人形机器人入局

虚拟伴侣App在整改、AI智能体功能在下线，但人对情感连接的渴望从未消失。硬件形态的新载体已经登场。

6月30日，优必选在深圳举办2026年度全球发布会，推出"优世界"U1系列全尺寸超仿生人形机器人，定价11.98万元至99万元。优必选方面的表述克制而精准："目标是要做外观好看、互动贴心、懂得回应、随时可用的陪伴机器人。"

一台主打"情感陪伴"的人形机器人，定价覆盖了一辆经济型轿车到一套小城市首付的区间——这个产品定义本身就是一个信号：AI情感陪伴正在从免费的"流量游戏"转向高客单价的"消费品逻辑"。

发布会引发各界广泛热议。7月4日，中国人形机器人百人会和中国机械工业联合会联合发布倡议，提倡"防范伦理和安全风险"、"加强个人隐私保护"。

优必选相关负责人向南都记者表示，仿生机器人定位面向成人，产品设计和协议全流程遵守国家法规，以《办法》为合规底线，将情感陪伴服务严格限定于"陪伴"而非"亲密关系"的范畴——"不是男友、女友或者伴侣"。针对人形机器人科技伦理治理尚无成熟标准的现状，优必选已率先成立人工智能与机器人科技伦理委员会，贯穿产品研发、工业设计、生产制造、宣传推广、市场销售、场景应用的全流程，将科技伦理、隐私保护、网络数据安全等合规要求嵌入产品开发的每一个环节。据透露，首批全尺寸超仿生人形机器人预计9月中旬交付。

从屏幕里的像素到客厅中的钢铁之躯，AI情感陪伴的载体在变化，但监管的核心命题始终如一：拟人化互动服务如何找到发展与规范的平衡点？

五、监管的"测不准原理"：新规落地最大的挑战

物理学中的"测不准原理"告诉我们，观测行为本身会改变被观测的对象。AI情感陪伴的监管正面临类似的悖论。

《办法》要求平台在算法、训练数据、实时交互等环节履行安全责任，管控的核心对象是"持续性的情感互动服务"，并禁止"过度迎合用户、诱导情感依赖"。张凌寒指出，新规落地最大的难点在于触发干预的"临界点"模糊不清。无论是判定AI是否构成"诱导沉迷"，还是识别用户情绪是否已触及需人工介入的红线，目前均缺乏量化标准，导致平台风控两难。

"持续性情感互动"不是一个可被算法精确测量的技术参数，它是用户的主观体验——同一段对话文本，对一个用户是情感寄托，对另一个用户只是效率工具。当前NLP技术能识别语义内容，却无法识别用户的情感粘附程度；推荐算法能检测使用时长，却无法区分沉迷与高效使用。

更深层的矛盾在于监管目标与隐私保护之间的张力。《办法》第18条要求"发现用户出现过度依赖、沉迷倾向的，应当动态提醒"，但判定"过度依赖"本身需要对用户行为进行深度建模——这恰恰触及了第10条所要求保护的用户隐私边界。监管目标与隐私保护之间的逻辑自洽问题，规则体系内部需要进一步厘清。

跨境维度的挑战同样棘手。《办法》约束的是"向中华人民共和国境内公众提供"服务的主体。境外AI产品（Character.AI、Claude、ChatGPT等）在中国无备案资质，其情感陪伴功能不受本办法管辖，却客观上可被境内用户通过多种渠道访问。国内头部平台合规成本上升、功能受限，境外替代品客观存在。这是管辖权边界的结构性约束，真正的解决路径是在国内形成合规且具有竞争力的替代产品，单纯依靠境内平台限制无法关闭需求缺口。

六、出清之后：三条新赛道与一场社会教育

每一次行业大洗牌之后，都会有新秩序从废墟中生长。

此轮整合后，三个方向正在浮现——

第一，持牌化情感陪伴。类似医疗器械的分级管理逻辑，面向银发群体、特殊需求群体等特定人群的情感陪伴服务，将成为需要资质的准入业务，门槛清晰、溢价空间存在。《办法》鼓励拟人化互动服务拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用，这是监管明确给出的合规赛道。

第二，垂直App隔离经营。字节已将智能体迁至"猫箱"App，能单独搭建完整的审核、分级、防沉迷体系，隔离风险。这一"功能隔离"架构将成为行业标配。

第三，B端任务型Agent。千问已向企业开放Agent权限，瑞幸等品牌已接入。任务型Agent不涉及持续性情感互动，明确排除在《办法》管辖范围之外，是确定性增量。

被淘汰的模式同样清晰：无法通过安全评估的中小情感陪伴平台、依靠"擦边"内容维持用户活跃的UGC模式、以流量数据堆砌估值而无清晰变现路径的AI陪伴类产品。

而监管、平台、用户三方的角色定位，仍存在错位风险。监管部门的核心职责是制定可验证的行为规则和建立标准化评估框架——《办法》鼓励拟人化互动服务提供者接入沙箱平台进行技术创新与安全测试，这是正确方向，通过监管沙盒积累真实案例，反向校准规则的边界。平台的核心责任是将安全能力内生化，合规能力本身应成为产品的差异化优势。

用户侧的挑战最为根本。大量用户并未意识到情感依赖风险的存在。《办法》要求对连续使用超过2小时的用户进行提醒，但被动弹窗的效果十分有限——真正有效的用户教育，是提升全社会的AI素养，让用户理解拟人化交互的技术本质。这需要系统性的社会教育投入，远超平台单一弹窗所能实现的效果。

七、代码不会心碎，但人会

亚当·斯密在《道德情操论》中写道："人类的全部道德体系，建立在对他人感受的同情之上。"两百多年后，这种同情的对象第一次从人类延伸到了机器——准确说，是延伸到了机器精心模拟的"人格"之上。

AI情感陪伴的"擦边球"时代结束了，"正赛"刚刚鸣枪。这场正赛的裁判规则尚不完美，参赛者仍在适应新赛道，观众席上的用户也需要时间理解——当一段对话让你心跳加速，对面可能只是一串被精心优化过的概率分布。

代码不会心碎，但人会。这大概是这个时代最值得被认真对待的技术伦理命题。

参考文章：《告别“擦边球”，AI情感陪伴的“正赛”开始了》，南方都市报 林诗妍 彭雨欣 实习生 覃少婷

畅销书：《AI商业进化论：“人工智能+”赋能新质生产力发展》

出版社：人民邮电出版社

作者：田丰

帮助你定位AI当下发展坐标的指南针

帮助你洞察AI未来演进趋势的航海图

通俗化解读AI的原理、特性和四大发展规律、提供AI赋能商业、引发新质生产力变革的一手案例分析。既有宏观视角的全局观照，又有各行业应用层面的下探记录，聚焦AI的原理与实践、现在与未来，是当下AI应用的全景图、更是身处AI技术浪潮之中的探路书。