福建
看到演员吴越凌晨三点多还没睡，气得在社交平台上发文，我刷完她那几句质问，心里也跟着一阵发堵。她一觉醒来，发现自己那张脸、那副声音，被一个叫花姐的账号，用AI技术原样搬走，套在一段推销护肤品的视频里。视频里的假吴越，热情洋溢地推荐一款产品，张口闭口是明星同款、吴越亲荐，还特意强调孕妇也能用，打着低价福利的旗号，哄着人下单。
吴越根本没跟这个账号有过任何合作，更别说推荐什么护肤品。可隔着屏幕，那张脸就是她自己的，那声音听着也像极了她本人。要不是她自己站出来，多少观众根本分不清真假。她直接发博质问，是谁在利用AI肆意抓人替自己作恶，喊话这个花姐把骗来的钱如数奉还，一句太恶劣，道尽愤怒。
更让人后怕的是，这个账号还不止糟蹋吴越一个人。翻看它发的视频，还能看到打着乒乓球冠军邓亚萍旗号的同款带货内容。一个账号，两张明星的脸，轮流上场卖货，全是用AI合成的。视频做得逼真，不仔细看根本察觉不出破绽。这类内容一旦被家里长辈刷到，他们分不清明星真假，很容易就信了，稀里糊涂掏钱下单。
涉事账号最终被封禁，内容也全部清空。可这场闹剧暴露出来的问题，远远没有结束。这些年，被AI冒用形象带货的名人，一只手数不过来。央视主持人李梓萌被冒名做过虚假广告，奥运冠军全红婵的声音被仿冒卖土鸡蛋，靳东、饺子的名字也被人拿来蹭过热度。每冒用一张名人脸，背后就有一批普通消费者上当，被冒用形象的艺人，还要白白背上口碑损失。
AI换脸冒充名人带货，成本低得吓人。过去商家想请明星代言，要掏真金白银，要走完整流程，还得看明星愿不愿意。现在只要找个模型，把明星的脸和声音抠下来，再配一段推销词，几分钟就能产出一条以假乱真的带货视频。技术的门槛被压得极低，造假的收益却可能很高，这正是这类乱象屡禁不止的根源。
平台在这件事里的责任，也躲不开。一条打着明星旗号、明显经过AI处理的带货视频，为什么能一路放出来，让那么多人刷到，直到明星本人跳出来发飙，才被封禁下架？靠受害者挨个对线喊打，平台坐等出事再处理，这种被动的治理方式，远远跟不上造假的节奏。
好在监管已经在往前走了。今年9月，最高法发布关于审理涉人工智能纠纷案件的意见，明确写了一条，未经同意，用AI处理他人姓名、肖像，生成能识别的虚拟数字形象并拿去公开使用，就构成对姓名权、肖像权的侵害。这条规定，给AI换脸带货划出了一条清晰的红线。吴越们再遇到这种事，维权有了更明确的法律依据。
我翻到吴越那条微博的时候，评论区全是替她声援的人。可我心里清楚，站出来发声的明星终究是少数。更多被冒用形象的人，可能压根不知道自己正在屏幕里卖力推销着什么。真正要堵住这个口子，光靠名人一个个出来喊话远远不够，平台得把好审核关，监管得让违规者付出代价，消费者也得学会多个心眼。
刷短视频看到明星突然带货，价格又便宜得反常，先别急着激动。多看一眼，这个账号是不是明星本人的官方账号，货品来源清不清楚，评论区有没有人反映过问题。让AI换脸骗不到人，最笨也最管用的办法，就是我们都慢一点下单。你身边有没有长辈，差点被这类AI换脸视频骗过？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
