![]()
一位歌手离开还不到半个月,短视频平台上就坐着一个“妻子”,声音发颤,眼眶泛红,开口第一句是“老刘他走了”。
观众还没来得及心酸,画面一转,小黄车挂上了,黄精五黑粉开始卖了。
![]()
几乎同一时间,另一位演员凌晨三点被朋友的消息吵醒,发现自己正在另一个账号里“亲自推荐”一款精华液,话术热络到连她自己都没说过那么顺溜的话。
官媒接连发声点名乱象,可 AI 造假带货依旧屡禁不止。
当造假只需要几十元成本,受害者自证清白却要耗费大量精力,我们该如何守住网络信任的底线?仅仅依靠事后封号,就能斩断这套反复收割的灰产生意吗?
![]()
刘欢家属骗局之所以能跑起来,靠的并不是什么复杂的技术。
账号取名“刘老师老婆”,视频开头引用刘欢生前的舞台片段,再用一个酷似卢璐的女声讲几句“临终故事”,情绪推到最满的时候,产品就顺理成章地出现了。
同一套模板还被复制到“刘欢儿子”身上,小黄车挂的是同款黄精五黑粉。
![]()
一个根本没有社交账号的人,却被AI“安排”着在短视频里带货,这件事本身就说明,造假者赌的从来不是骗术有多精巧,而是普通人刷到一条视频时,第一反应是“像”,而不是“查”。
吴越遇到的是同一个逻辑的另一个版本。
![]()
账号“花姐美肤日记”用AI合成了她的脸和声音,让她“说”出“这个产品不是他们找我,是我找他们”,还补上一句“孕妇妈妈都能用”。
同一个页面上,邓亚萍的AI形象也在用几乎一模一样的句式推荐产品,事后邓亚萍团队明确回应,从未代言、推广过相关产品,也从未授权他人使用自己的AI形象。
一个账号里同时塞进演员和奥运冠军,说明这已经不是某个人心血来潮的恶作剧,而是一条可以批量复用的流水线。
![]()
我个人认为,这种“像”之所以危险,恰恰因为它不需要完美。
口型对不上、光线不自然,这些瑕疵在熟人眼里一眼假,可对于在信息流里匆匆划过的陌生人来说,一张熟悉的脸加上一句笃定的推荐,已经足够完成一次下单。
可问题在于,账号被封之前,那条AI带货视频已经挂了一整天,该点进去的人已经点进去了,该付的钱也已经付了。
一个真人要证明“我没推荐过”,得半夜爬起来发微博;一个假账号要挂链接收钱,只需要一段公开影像和几十块钱的声音克隆成本。
这种不对称,不是封一个号就能抹平的。
![]()
骗局被戳穿,账号被清掉,看上去事情该收场了,但真正让这件事“屡禁不止”的,不是骗子的胆子,而是骗局散场之后留下的那堆麻烦,几乎全压在了受害者和普通人这一边。
温峥嵘的遭遇把这种荒诞感推得更远,她曾发现多个直播间同时出现自己的AI形象,于是进入其中一个仿冒直播间质问,结果被对方直接拉黑禁言。
她还曾在一天之内举报了五十个假冒账号,但部分账号被下架之后,换一个形式又重新冒出来。
![]()
一个公众人物,有团队、有律师、有发声渠道,尚且被拖进这种“猫鼠游戏”里反复消耗,普通人刷到一条AI视频时的辨别成本和维权成本,只会更高。
更微妙的是平台和商家之间那道看不见的缝隙,刘欢家属骗局曝光后,涉事产品店铺的负责人说了一句很典型的话:视频是博主自己挂的链接,“我们管不了,这得平台管”。
而平台客服的回应则是,需要由权利人或其家人举报才会处理。
![]()
商家把球踢给平台,平台把球踢回权利人,一圈转下来,最该被保护的人反而成了责任链上被要求“主动站出来”的那一个。
恕我直言,这种“谁受害谁举证”的默认逻辑,在AI造假面前几乎是失效的。
![]()
法律上的定性其实并不模糊,冒用他人形象和身份进行商业推广,踩的是肖像权和名誉权的线;虚构一个根本不存在的“亲自推荐”去引导下单,性质上属于消费欺诈,消费者可以主张退一赔三,金额达到一定标准还可能触及刑事诈骗。
但纸面上的“可以追责”和现实中的“追得到”,中间隔着举证成本、账号溯源和跨平台流动这几道坎。
![]()
账号可以一夜之间改名换姓,“花姐美肤日记”在吴越发声后就曾试图更名避责。
以我的理解,当造假的门槛低到一个人对着屏幕就能完成,而追责的门槛高到需要受害者像侦探一样收集证据,治理的节奏就已经落后于骗局的节奏了。
受害者自证的困境说到底是治理链条的错位,而官媒在这一轮密集发声,指向的恰恰是这条链条上本该前置却没有前置的那一环。
![]()
央视网、北京日报、光明网等官媒在刘欢家属骗局和吴越事件之后先后发声,措辞不算客气。
央视网直接点出,AI换脸换声工具随处可见,仿冒账号批量造假早已是分工明确的灰产生意,从素材采集到AI合成,再到投流和商品售卖,每个环节都有人负责。
新京报快评的标题把话说得更直白:标注“AI生成”不是免责金牌。
![]()
这句话其实打在了要害上。
涉事视频下方不是没有小字提示,可一行几乎没人会留意的“含AI生成内容”,和“这是吴越本人推荐”之间,隔着的是消费者的全部信任。
一个标签只完成了“告知”,却没有完成“拦截”,它更像一道事后贴上去的封条,而不是事前拦住骗局的门。
![]()
平台不是完全没有动作,2026年6月,上线了“肖像保护功能”,达人可以提前在后台建立肖像档案和授权信息库,平台用模型识别来前置拦截侵权内容。
截至当时,已有180余位头部达人开通了这一功能,平台主动拦截的侵权账号和违规商品规模超过了传统被动处置的总量。
这个方向是对的,把治理从“接到举报再删”往前推到“识别到就拦”,至少承认了被动响应的速度跟不上AI造假的速度。
![]()
但问题也摆在那里:这项功能依赖权利人主动上传肖像信息,而刘欢已经离世,卢璐没有社交账号,那些被冒充的已故名人家属、不熟悉平台工具的普通名人,恰恰是最不可能主动去做“肖像备案”的群体。
在我个人看来,前置保护如果只覆盖“会主动申请的人”,它保护的仍然是那些本来就有能力保护自己的人。
官媒下场带来的舆论压力,确实让“花姐美肤日记”这类账号在一天之内消失。
![]()
但封号回答不了一个更根本的问题:下一个“花姐”在注册账号的时候,会不会因为知道封号来得很快而收手,答案大概率是不会。
只要素材采集、声音克隆和挂链变现的链条还在,换一个名字、换一张脸、换一个产品,成本几乎可以忽略不计。
真正需要被前置的,不只是某一条视频的识别,而是对“冒用名人身份带货”这个行为模式本身的拦截。
![]()
在账号命名、商品挂载和内容特征这几个环节同时设卡,而不是等到一条视频跑完了流量、收完了钱,再由一个凌晨没睡着的受害者把它拽下来。
这句话问的其实不是某一个“花姐”,而是在问一套让“花姐”们可以反复出现的机制。
![]()
![]()
刘欢家属的骗局被曝光了,吴越的假视频被封掉了,官媒也把话说明白了,可如果治理的起点始终停在“有人受害之后”,那么下一次被AI拽进镜头里的,可能是另一个刚刚失去亲人的人,也可能是另一个在凌晨三点才发现自己“被带货”的演员。
封号是必要的,但封号之后的那个问号,比封号本身重得多。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.