广东
网红圈现在的内卷程度，真的超出想象。
以前大家只需要跟同行抢品牌合作、拼内容流量，现在倒好，还得跟AI生成的“自己” 对线.
好好的脸被拿去乱打广告，名声砸了还得自己擦屁股。
今年年初，生活类博主艾米丽・舒曼（Ins上做生活方式博客Cupcakes and Cashmere，有50多万粉丝）刷动态的时候，突然刷到一张自己的广告图，当场懵了：她手里举着一支GLP-1类药瓶，给一家叫Gala的线上医疗公司带货。
图源：豆包AI生成
问题是，她连这家公司的名字都没听过，跟这广告半毛钱关系都没有。
后来才查明白，这张图是拿她好几年前在车里自拍、发过社媒的旧照，被AI改出来的。
这还只是个开始。
没多久她又发现，社媒上还有条美妆广告，AI把她头发P深了好几个色号，假装她在涂粉底，给一个叫Meroda Cosmetics的美妆品牌带货。TikTok上好几条视频用她的AI生成脸，推广一家叫Superpower的验血公司。
“这也太侵犯人了，” 舒曼说，“这些视频照片看着跟我一模一样，但根本不是我，就像个颠倒过来的冒牌货。”
事后记者找Gala和Meroda求证，两家都没回应。
Superpower的CEO马克斯・马基奥内出来解释，说那条TikTok不是他们官方广告，是骗子私自做的，公司后来已经举报了。
诈骗本来就不是新鲜事，但AI一来，直接把难度拉低、规模拉大了。
生成式AI火了之后，做文字、做代码、做音视频都越来越简单，深度伪造也跟着彻底泛滥。
这些AI合成的照片、视频，普通人几乎看不出真假。
网红和明星为啥最容易中招？原因特别现实：网上他们的公开素材太多了，几百小时的视频、成千上万张照片，AI随便扒下来训练，就能做出以假乱真的换脸内容。
图源：豆包AI生成
这也成了网红圈的新职业危机。 以前拼的是内容、是粉丝、是报价，现在还要守护自己这张脸的公信力。
毕竟对靠个人品牌吃饭的网红来说，脸和名声就是饭碗。
数据与社会研究所的研究主任爱丽丝・马威克，最近刚发了一篇关于AI仿冒诈骗的论文，她说得很直白： 网红的个人品牌就是他们的生意。牌子砸了，整个事业都会跟着垮。
泰勒・斯威夫特、奥普拉、卡戴珊、格温妮丝・帕特洛、汤姆・汉克斯…… 这些大牌名人，全都被AI换过脸，在网上给各种莫名其妙的产品带货。
别以为只有顶流明星会遭殃，中小博主同样跑不掉.
这些骗局到底造成了多少经济损失，其实很难精准统计。但博主们的感受特别真实：深度伪造不光会稀释自己的商业价值，消耗粉丝攒了好几年的信任，维权更是个无底洞。
重点是，AI模型越更新，伪造得就越像，根本防不胜防。
深度伪造广告越来越多，背后还有个推手：整个营销圈都在疯用 AI 生成内容。
营销咨询机构Digital Applied的数据显示，2026年AI打造的“虚拟网红”市场规模已经达到13.7亿美元，占到品牌全部营销预算的4%左右。
虚拟网红虽然没真人博主有真实感、有信任背书，但架不住它便宜啊，24小时待命，想改成什么风格就改成什么风格，不少品牌都觉得香。
虽然Meta和TikTok的平台规则里，都写着：禁止用AI或者数字篡改技术，仿冒他人的身份。
但现实是，平台的个性化推荐算法变相在给这些骗局铺路。
拿Meta举例子，它允许广告主做极其精细的受众定向，骗子就钻这个空子：悄悄投放诈骗广告，一个账号被封了，立刻注册新的接着来，传播速度特别快。
之前外界一直骂Meta平台诈骗泛滥，今年它也象征性出了点新措施：比如加强广告主身份验证，搞了个AI检测工具，专门打击蹭名人的诈骗。 但这些都是做做样子，根本没下狠手。
说白了，平台根本没动力真的整顿广告生态，毕竟广告是它最核心的收入。
平台靠这些诈骗广告，赚了大钱。
翻来覆去想，网红能做的也只有举报、发律师函警告，没什么别的有效办法。但放任不管的话，攒了这么久的名声就毁了。
怎么看，都是个双输的死局。
本文由雷科技编译自theguardian
原文链接：深度伪造正在摧毁网红们的可信度
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
