北京
在AI盛行的年代，眼见为实不再是铁律。
近日，演员吴越在网上发文称：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位“花姐”你骗了多少人的钱？请如数奉还！太恶劣！！！”
事情的起因是，吴越发现一个名叫“花姐美肤日记”的账号在网络上利用AI技术，伪造她的形象与声音，制作成带货短视频，不少消费者已经受骗下单。
10月18日当天，微信团队回应，涉事账号已被永久封禁，相关内容清空。
10月20日，吴越在接受采访时表示，“我不会选择沉默。下次还出现这种情况，我觉得是完全有可能的。你如果犯规了，那就应该有一些相应的处罚。”
除了演员吴越，“花姐美肤日记”还碰瓷过前中国女子乒乓球运动员、奥运冠军邓亚萍，以及前中国女子跳水运动员、奥运会冠军郭晶晶等。
AI带货泛滥
低成本骗局为何层出不穷？
这些年，随着AI技术的逐渐成熟，越来越多人用AI生成的“高仿明星”来带货，原因就在于使用AI的门槛低。
一方面，现在不需要什么学习，任何人都能够利用AI伪造视频，而且创建账号的成本十分低，一旦账号被平台封禁，骗子可以注册新的账号继续哄骗消费者下单。
另一方面，只要准备好相同的话术，用AI软件生成不同的明星去念广告词，平台算法就能把这条视频推送给爱看的人，而这类由AI制作的视频中售卖的大多是低成本的劣质商品，利润空间巨大，高额的收益会驱使不法分子铤而走险。
很多人以为上当受骗的人是因为“贪便宜”，其实并不完全是，不少中老年人缺乏对AI技术的了解，在他们看来，视频里看到的人就是本人，他们并不知道人脸、声音都是可以被伪造的，对这些视频完全没有防备心理。
除了利用明星AI换脸，短视频平台上还出现了一批“苦命男孩小海”。这些由AI生成的“小海”在视频中对着镜头一口一个“姨姨妈妈”，哭诉着自己单亲、窘迫的身世，利用不少中老年人的同情心，下单购买其商品，甚至有七旬老人独自坐火车前去探望“苦命小海”。
AI带货乱象
重要的是源头治理
说到底，明星换脸带货、博同情AI视频泛滥的原因还是犯罪成本太低，平台虽然能够自动检测视频是由AI生成，但治理速度往往赶不上账号的繁殖速度，等到视频被举报下架，商家早就赚得盆满钵满。单靠明星发声，只能曝光个案，很难遏制骗局持续出现，想要根治乱象，必须抓好源头治理。
首先，监管部门要加大打击力度，打击非法AI视频制作工具的售卖，提高违法成本，相关科技公司也要规范AI工具的使用，要求用户实名，防止被随意滥用。其次，短视频平台也要升级技术识别能力，对AI合成的画面加强管控，发现后及时关停账号。
咱老乡应该怎么办？
咱们老乡网上购物的时候，千万别单凭一张熟悉的面孔就放下戒备，线上选购农资、看直播买东西的时候一定要注意：
仔细辨认主播的身份，如果声音和口型对不上就很有可能是AI生成的“假人”。
在购买农资时要注意视频中展示的除草效果或产量是不是有夸大成分，凡是说种子亩产超高、农药啥病都能治的多半有猫腻。
下单前要看清农资证件，买种子要看品种审定编号，买农药要看农药登记证号，不买没有厂家信息的 “三无农资”。
交易全过程中留存好付款凭证、聊天记录等证据，一旦遭遇骗局，第一时间向平台提交材料投诉举报。
合理使用AI能为我们的生活带来便利，但在一小部分不法分子手中，AI技术生成的视频成了欺骗消费者的工具，所以咱老乡在线上购物时，务必擦亮双眼，不要被“伪造的人脸”所欺骗。
作者：吕济国
监制：杜娟 编辑：吕济国
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
