四川
一个唱歌的人走了，本该安安静静地走。刘欢，那个唱过《弯弯的月亮》、唱过《好汉歌》的音乐家，9月25日上午在上海病逝，享年63岁。消息出来那天，朋友圈一片白，多少人翻出老歌循环播放。他的歌声陪过一代人的青春，这份告别本该庄重。
可树欲静而风不止。人刚走没几天，网上就冒出一堆"临终画面""送别现场"，真真假假混在一起，把刚失去丈夫的卢璐逼得不得不站出来说话。
更离谱的还在后头——有人干脆用AI换了一张脸，冒充卢璐本人在镜头前哭，哭完了开始卖养生粉。这事越闹越大，终于惊动了央视。
谁能想到，辟谣的帖子还没凉透，新的坑又挖好了。没过几天，各大平台上陆续出现一段视频。画面里一个女人满脸悲痛，声音发颤，开口就是"今天坐在镜头前跟大伙说话，我的手还发颤，老刘他走了"。
她讲刘欢生前怎么怎么样，中间还插了几段刘欢以前演出的画面。不明真相的网友看着直掉眼泪，评论区全是安慰。可看着看着味道就不对了——她话锋一转，开始推荐一款叫"黄精五黑粉"的东西，小黄车链接就挂在底下。
眼尖的人发现，视频角落有一行小得不能再小的字："内容由AI生成"。字小到什么程度？你得暂停了凑近屏幕才能看清。就这么一条假视频，点赞好几万，转发过万。真有人在评论区下了单。
卢璐本人还在丧夫之痛里没缓过劲来，"她"已经替她把货卖完了。这不是做生意，这是在逝者的坟头摆地摊。
你以为这就完了？翻一翻同类视频，能吓一跳。有人用AI冒充"小沈阳的儿子"，推的居然也是那款黄精五黑粉。可现实里小沈阳正忙着录综艺、拍电影，一家人好好的，网上凭空多出来一个"儿子"在卖货。有网友调侃：小沈阳自己知道他有这么个儿子吗？
还有冒充冯巩妻子的，有冒充赵本山前妻葛淑珍的，有冒充赵丽蓉亲属的……一个接一个冒出来，用的全是AI生成的假脸假声，干的全是同一件事——前半段讲一个催人泪下的故事，后半段挂购物车。
套路高度统一：先编一个悲情人设，再用观众对名人的同情和信任变现。悲伤是引流工具，钱包才是最终目的。
其实拿AI搞名人的事，早就有前科了。把时间拨回到2019年，一段换脸视频在网上传得沸沸扬扬——有人用AI技术，把1994版《射雕英雄传》里朱茵演的黄蓉，整张脸换成了杨幂。效果逼真到什么程度？五官和表情几乎融为一体，一般人肉眼根本看不出破绽。
那段时间相关话题阅读量破亿，有人惊叹技术厉害，有人后背发凉：这要是拿去干坏事怎么办？当时大多数人就当个技术猎奇看了，哈哈一笑就过去。
可现在回头想，那不过是这场骗局的序章。从图一乐的换脸视频，到成体系的冒充家属带货，门槛越降越低，胆子越来越大，骗术也从玩票变成了真金白银。
这话戳中了要害。你看平台对涉政、涉恐这类内容，算法盯得死死的，秒删秒拦；可一遇到仿冒名人带货这种灰色地带，就换成了"不告不理"——没人举报就装没看见。
为什么？因为有钱赚。一条AI假视频，从发出来、过审核、算法推流、挂商品链接到结算支付，要经过平台好几道手，每一道手都能从成交里抽成。被举报下架的概率又低，成本远小于收益，那睁一只眼闭一只眼就成了心照不宣的选择。
再往前推到9月初，中央网信办部署的"清朗·整治AI应用乱象"专项行动，已经处理了一批用AI换脸换声假冒公众人物的账号。规则有了，行动也在推进，但灰色地带的利益链不斩断，删多少号都是按下葫芦浮起瓢。
技术本身没有对错，刀可以切菜也可以伤人，关键看握刀的是谁、为了什么。今天被换脸的是名人，他们还有团队、还有舆论关注度，有人替他们发声。
可今天能批量生成假卢璐、假小沈阳儿子，明天这套技术就可能落到任何一个普通人头上——伪造你的声音去骗你的亲戚，换一张你的脸去贷一笔款。到那个时候，谁来替你喊冤？
我们刷手机的时候，遇到那种声泪俱下讲名人故事、末尾悄悄挂个购物车的视频，不妨多停两秒。
看看有没有那行小字标注，想想这个人为什么偏偏在最伤心的时候开始卖东西。技术跑得太快，人心得跟得上。别让别人的眼泪，变成别人钱包里的利润。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
