你刷到过全红婵卖土鸡蛋的视频吗?那张脸是她,那个声音也是她,可那根本不是她。
一个叫“我是小助理吖”的账号,17条作品全是AI仿冒全红婵的声音卖土鸡蛋。其中一条点赞量1.1万,商品链接显示售出4.7万件,评论区一水儿地喊“婵宝真好”。
![]()
可全红婵本人连直播间都没进过,她哥全进华不得不站出来直播澄清:妹妹是在役运动员,不能卖货,大家别上当。
澄清的视频播放量几十万,卖货的视频播放量几百万。谁看得到澄清?
![]()
全红婵不是唯一被盯上的。在另一个账号里,孙颖莎的AI克隆声音在说:“我为婵宝家农家土鸡蛋代言,今天我就拿到了8单做福利。”
王楚钦的AI声音在说:“昨天收到婵妹私信,说她们家土鸡蛋大丰收,叫我拿给家人、粉丝们尝尝。”
![]()
三个人,全是奥运冠军,全是在役运动员,没有一个开过带货直播。但他们的脸和声音,被AI拼在一起,成了一个完整的“带货矩阵”。
央视新闻8月18日报道这件事的时候,用了一个词:流量密码。
![]()
演员温峥嵘同时“现身”多个直播间带货不同产品,实则是AI合成仿冒,她亲自去质问,被对方秒拉黑。她后来接受采访时说了一句话:“很难证明我是我。”
![]()
还有更离谱的。央视10月10日曝光了用AI伪造刘欢家属身份带货的视频。
一个叫“刘老师老婆”的账号,用AI生成了一个“刘欢遗孀”,在镜头前一脸沉痛地缅怀刘欢,话锋一转开始推销“黄精五黑粉”。刘欢的妻子卢璐被迫在朋友圈辟谣,用的词是“跪谢”。
![]()
从奥运冠军到演员到已故名人的家属,AI仿冒的刀,砍到了每一个有流量的人身上。
这条链条最狠的地方,在于它把“信任”变成了一门单向收割的生意。
![]()
消费者刷到视频,一看是全红婵在卖自家土鸡蛋,心想冠军家里农村的,支持一下呗,下单了。等收到货,打开一看,个头小,蛋黄散,跟视频里说的完全不一样。
有人买蜂蜜,冲出来跟糖水似的。
![]()
钱花了,货不行,消费者气不过,找谁?视频里那张脸是全红婵,评论区骂的,就是全红婵。
“奥运冠军也开始割韭菜了?”“婵宝你怎么回事?”“再也不支持你了。”这些话,全红婵本人一个字都看不到,但一条不落地落在了她身上。
![]()
她人在国家队训练,连发生了什么都不知道,但她背了所有的骂名。
这件事最让人后背发凉的地方,是它的成本。
![]()
中新网《民生调查局》做过一次调查。在电商平台上,花1.98元就能永久克隆一个明星的声音,上传10秒素材,40秒就能生成。花70到100元,就能定制一条明星AI仿冒推广视频。
![]()
一个奥运冠军的声音,值不到两块钱。
你想想,全红婵训练了多少年才站上跳台,拿了多少块金牌才被人记住。她的声音被“偷走”的价格,是一瓶矿泉水的钱。
![]()
而且这种“偷”几乎没有门槛。
不需要懂技术,不需要认识明星,不需要签任何合同。只需要一段公开采访的录音,一个电商平台买来的工具,一个短视频账号。整套流程下来,成本低到可以忽略不计。
![]()
有记者以“AI视频制作”为关键词在电商平台检索,随机选取10家商家咨询,明确提出想制作明星AI宣传视频。
大部分商家明知业务存在法律风险,仍承接定制订单。有客服坦言:“AI真人生成容易违规,现在真人抓得很严,特别是明星。能做,就是过审比较麻烦。”
![]()
一个完整的灰色产业链已经成型:有人使用AI盗用明星肖像和声音承接“明星定制”业务,有商家借名人影响力为商品增信,还有账号矩阵负责伪造视频的引流、分发、变现。
中央网信办这次的动作,是9月30日部署的“清朗·整治短视频虚假人设乱象”专项行动,为期两个月。五类重点里,“利用AI等仿冒人物”被明确点名。
![]()
重点整治什么?通过AI合成虚假音视频,假冒公众人物,实施虚假代言、营销等侵权违法行为。这不是网信办第一次动手。
今年4月,已经部署过为期3个月的“清朗·整治AI技术滥用”专项行动,把利用AI假冒他人实施侵权违法列为重点整治对象。
![]()
更值得关注的是最高法的动作。
![]()
《意见》写得非常清楚:未经同意使用自然人声音作为训练语料,模仿其音色、语调和发音风格生成可识别的合成人声的,构成对声音权益的侵害。
操控虚拟形象、合成声音实施不当行为或者发表不实言论、降低他人社会评价的,构成对名誉权的侵害。
![]()
还有一条针对性极强的规定:利用人工智能“仿冒名人带货”且构成欺诈,消费者主张惩罚性赔偿的,人民法院依法予以支持。
规矩写在那儿了,问题是执行的速度赶不赶得上造假的速度。
![]()
今年4月,公安部网安局通报了一起全红婵遭网暴的案件。
一个31岁的徐某,创建了一个跳水“饭圈”微信群,拉业内人士和粉丝入群,不断变换昵称,多次在群内发表针对全红婵的侮辱性言论,恶意拉踩引战,最终被行政拘留十日并处罚款。
![]()
但这只是被查实的一例。从2023年福冈世锦赛到2024年巴黎奥运会再到2025年全运会,她每赢一次,网暴就重一分。
今年4月,广东省二沙体育训练中心正式向公安机关报案,国家体育总局游泳中心同步报警。
![]()
一个十五六岁就在跳台上为国争光的姑娘,下了跳台还要应付这些。
现在又加上了AI伪造视频,她的脸被拿去卖鸡蛋,她的声音被拿去喊“婵妹想着帮助妈妈”。她本人什么都没做,但她背了卖假货的骂名。
![]()
那些AI造假账号赚的是流量和带货佣金。1.98元克隆声音,70元定制视频,卖出去4.7万单土鸡蛋,利润翻了几百倍。
他们不用管产品质量,不用管售后,不用管运动员的名声,钱到手,换个账号继续干。
![]()
全红婵、孙颖莎、王楚钦赔的是名声和精力。他们在训练、在比赛、在为下一块金牌拼命。然后他们的家人要站出来辟谣,他们的教练要替他们解释。
全红婵的哥哥在直播间里替妹妹澄清的时候,妹妹在训练馆里跳水。
![]()
刘欢的妻子卢璐赔的是安宁。丈夫刚走,她被迫在朋友圈辟谣,被迫请人帮忙转发声明,被迫看着AI伪造的“自己”在网上卖货。
她在声明里写的那句“让他的灵魂得以安宁”,是一个妻子最朴素的请求,但就是有人不让她安宁。
![]()
消费者赔的是钱和信任。他们是因为相信全红婵才下的单。买到劣质货之后,他们骂的是全红婵。下次再看到真的全红婵的新闻,他们可能还会想:这个人是不是也在带货?
平台赔的是公信力。当用户在平台上刷到AI伪造的奥运冠军带货视频,而平台的处理方式是“需要权利人举报”,用户对这个平台的信任就少一分。
![]()
今天被AI仿冒的是全红婵,明天可能是任何一个你信任的人。一个医生、一个老师、一个你关注了很久的博主。
AI换脸和声音克隆的技术门槛已经低到1.98元,任何人花不到两块钱,就能让任何一张脸说任何一句话。
![]()
你今天在屏幕上看到的“真人”,可能根本不是真人。你今天因为信任而下的一单,可能从头到尾都是一场骗局。
而当你被骗之后,你要去找谁?平台说“需要权利人举报”,商家已经换了个账号继续干。你手里剩下的,只有一箱跟描述完全不符的土鸡蛋。
![]()
法律层面已经有了依据。民法典第1023条规定,对自然人声音的保护参照适用肖像权的保护。最高法的《意见》也明确,利用AI仿冒名人带货构成欺诈的,消费者可以主张惩罚性赔偿。
规矩摆在那儿,问题是谁来执行、执行到什么程度。
![]()
全红婵的哥哥在直播间里说了一句话:“这样的切片,全平台一大堆,告都告不过来。”
告不过来。这四个字,比任何数据都说明问题。
![]()
一个奥运冠军的家庭,面对铺天盖地的AI仿冒视频,能做的只有开直播辟谣。辟谣的视频没人看,仿冒的视频几百万播放。他们不是不想维权,是维权的速度赶不上造假的速度。
中央网信办的专项行动来了,最高法的司法解释也来了,方向是对的。
![]()
但全红婵们需要的,不是行动结束之后的“阶段性成果通报”。他们需要的是,明天打开手机,不会再刷到另一个“自己”在卖鸡蛋。
对于这件事,你怎么看?你刷到过AI仿冒名人的带货视频吗?
![]()
![]()
![]()
![]()
![]()
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.