北京
最近，一批名叫“小海”的苦命男孩在短视频平台上批量涌现。
这些“小海”对着镜头一口一个“姨姨妈妈”，哭诉着单亲、窘迫的身世，让不少中老年人看了心疼落泪，纷纷下单买货帮扶，甚至有七旬老人独自坐火车前去探望。
然而，这个让老人们牵肠挂肚的“贴心晚辈”，现实中根本就不存在，全是由AI合成的“数字人”。
79岁老人独自坐火车去见“苦命小海”
今年5月，乌鲁木齐铁路公安的乘警在巡视车厢时，就曾发现一位79岁的老人独自一人乘车远行，神情焦急。乘警上前询问得知，老人不识字，也说不清具体目的地，只知道自己要去山西运城“走亲戚”，看望一个天天在手机里喊她“姨妈”的苦命孩子。
在乘警的耐心劝说和联系下，这位老人最终下车，坐家人买好的返程票回到了家。
据了解，这些让老人们牵肠挂肚的“贴心晚辈”，实际上根本不存在，全是由AI合成的“数字人”。
这些由AI生成的十几岁男孩形象，无一例外都在上演着“懂事、窘迫、心疼长辈”的苦情剧本。在一些视频里，“小海”眼含热泪，对着镜头展示手里的馒头：“姨姨妈妈，我是小海，同学们都去吃饭了，我躲在教室里面吃馒头。姨姨妈妈，我有好好吃馒头，我还买了个肉包是给姨姨妈妈的，小海想把好吃的给姨姨妈妈们……”
而在另一段带货视频里，“小海”摇身一变，又成了最懂老人心的“贴心晚辈”，开始推荐阿胶。
如今，为了唤醒沉迷“AI小海”的长辈，一群年轻网友开始用AI造“恶小海”，有人让小海穿着囚服、抓着铁栏“道歉”；有人让他抽烟、喝酒、大把数钱，炫耀自己从“姨姨妈妈”那里赚了多少钱。
更多网友甚至不做视频，直接在评论区接梗演戏，用夸张、离谱留言，戳破这场苦情戏的荒诞。
专家：恶意编造故事博取同情卖货，已涉嫌构成欺诈
北京航空航天大学法学院副教授赵精武指出，数字人卖惨带货与真人卖惨带货在法律定性上并没有本质区别。虽然内容上标注了“由AI生成”，但这不等于老年人上当就应当认定属于自己存在疏忽导致。
赵精武表示，“由AI生成”这个标识仅仅是说明视频的生成方式和使用的工具，结合视频内容和带货目的来看，其针对的是家庭情感缺位的老年人，主观目的从来都不是用来描述客观事实，甚至存在恶意误导老年用户、博得同情的行为，可以认定为欺诈。在这条产业链上，第一责任人毋庸置疑是账号运营者或直播间运营者。
为何老年用户不易识别AI合成影像？
北京大学政府管理学院教授马亮认为，表面上看这是老年人的数字素养差距，但深层的根源，在于社会中不容忽视的“情感空巢”问题。
马亮表示，这反映出不少老年人线下生活是相对孤独的，也没有有效的陪伴，可能通过数字世界的消费去满足自己的精神需求。这也意味着相关的社会工作、社区治理部门应该跟进，更多地为老年人提供线下关怀，加强对AI应用的指导，避免上当受骗。
平台应当如何治理AI生成视频乱象？
除了操盘账号的黑灰产和商家，短视频平台在其中扮演的角色同样备受质疑。相同的苦情话术、高度雷同的数字人面孔、高频挂载的商品链接，为什么总能精准找到老年用户？
此前有媒体报道，“数字人小海”视频在某短视频平台上已播放超6亿次。对此，马亮认为，面对批量制造的坑老视频，平台的责任绝不能止步于给视频打个标签，或者等网友举报了再去封号。
这种响应式治理非常被动、滞后的。平台有技术能力去识别视频下方的评论、用户后续的购物行为，这些数据都可以用于甄别哪些视频存在欺诈行为。不能说平台对这些AI生成的视频进行了标注，就完成了工作。
来源 | 央视新闻、经济日报、闪电新闻
编辑 | 李雪
责编 | 王天资
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
