上海
02:13
10月18日凌晨，演员吴越公开发文，怒斥账号“花姐”用AI伪造她的声音带货护肤品。虚假视频谎称吴越亲自对接厂家回馈粉丝，声称产品孕妇可用、放心囤货。
明星遭遇AI换声带货早已不是孤例，演员温峥嵘就踩过同样的坑：多个直播间同步上线AI合成的“温峥嵘”，妆发、商品各不相同，推销话术却是一模一样的模板。她深夜闯入直播间当面质问，转眼就被拉黑，无奈感叹“很难证明我是我”。
逝者家属也难逃黑手，侵权边界被一再突破。刘欢辞世不久，网上就冒出整套“刘家”带货剧本，不法分子用AI合成其妻子卢璐出镜卖货，还凭空捏造“刘欢儿子”人设收割流量。即便卢璐多次辟谣，造假视频依旧四处扩散。
如今不法商家靠低成本AI工具，抓取公众人物影像、语音素材批量造假直播，借明星公信力诱导消费者下单。这类伪造内容真假难辨，普通人很难一眼识破。而维权更是一道难题：账号随时弃号跑路，电子证据极易销毁，造假者隐匿在网络远端，当事人自证身份的成本极高。
从法律上看，这类AI深度伪造带货，绝非简单的蹭流量。擅自复刻他人肖像、声音，侵犯人格权；虚构明星背书推销商品，属于虚假宣传，达到标准即构成消费欺诈。根据法律规定，利用AI深度伪造他人形象声音，未经许可用于商业营销，侵权者不仅要承担民事赔偿，情节严重还可能触及行政甚至刑事责任。
想要遏制这股歪风，不能只靠平台删帖。除落实AI内容强制标识、升级识别模型之外，监管可建立AI造假快速取证通道，简化公众人物的固定证据流程；平台留存AI生成内容的溯源日志，一旦案发能快速定位源头。普通网友也要提高警惕，不要轻信短视频里的明星专属福利，遇到可疑AI造假内容及时举报。
技术本身无罪，但绝不能让AI深度伪造，变成零门槛伤害他人、收割消费者的犯罪捷径。守住技术底线，才守得住网络空间的诚信与秩序。
编辑: 朱声波
责编: 赵歆
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
