明查·聚焦｜大象在洪水中救人？监控拍到怪物？“AI泔水”正批量复制“感动”

浑浊的洪水裹挟泥沙奔涌向前。男子独自蹲坐在岩石上，环顾四周。湍急的水流从其身边掠过，仿佛下一秒就要将他卷入。此时岸边忽现一头巨象，径直走入水中，在男子面前停下。借助粗壮有力的象鼻，男子俯身，奋力攀上象背，终于获得新生。

上述文字描述的视频画面在今年8月广泛流传于社交平台，被称为尼泊尔泥石流灾害中“感人的一幕”。不少用户相信，这是一场发生在灾害中的真实营救。有人感谢“上帝派来动物拯救灾民”，也有人感叹大象展现出了与人类建立信任和情感联系的能力。

网传说法截图。

然而，这场“感人的救援”其实从未发生——Meta的AI检测工具从视频中识别出了数字签名，表明它极有可能由该公司的AI工具生成。

“AI泔水”：批量复制的“感动”

事实上，类似视频中大象的“动物英雄”并不少见，而且都有着高度相似的叙事结构：灾难突然发生，受困者急需拯救，然后动物在危急关头出现，完成了一场跨越物种的营救。

2025年11月，泰国南部遭遇洪灾，一组“狗救小猫”的图片开始在多国社交平台流传。其中一则帖文获得了5600次转发，相关图片还被翻译成英语、马来语、越南语、缅甸语和中文传播。今年8月，网络上又出现了一组声称“巴西洪水中有树懒托举小狗”的图片。这些图片随后均被专业事实核查机构鉴定为由AI生成的内容。

网传“狗救小猫”的图片由AI生成。

类似这样借助人工智能批量制作、内容大同小异的作品，正是近年来被频繁讨论的“AI slop”——在中文语境中被直译为“AI泔水”， 泛指“借助人工智能大量制作的低质量数字内容”。

除了“动物救人”的题材，你可能也在网上见识过诸如“超现实自然奇观”“飞机坠毁现场”“老人或军人举牌求点赞”“监控摄像头拍到熊/老虎/怪物”等类型化的视频，它们都属于“AI泔水”的讨论范畴。

2024 年 5 月，软件开发者Simon Willison 转引X用户@deepfates的说法，将“未经请求，而且未经人工审核的AI生成内容”类比为垃圾邮件（spam），给这些内容贴上了废料（slop）的标签。同年6月，《纽约时报》记者本杰明·霍夫曼（Benjamin Hoffman）在文章中写道，“slop”一词“让人联想到成堆令人倒胃口的食物被铲进牲畜食槽的画面”，这便是“AI泔水”的由来。

这一用词随后被互联网用户和媒体研究学者广泛采用，在2025年底被韦氏词典评为年度词汇。美联社在今年5月发布的新版写作规范中正式收录了“AI泔水”词条，将其定义为 “AI 生成的低质量、大规模在线内容，可包括文本、音乐和图像”。

英国牛津大学下属的新闻研究机构路透社研究所认为，“AI泔水”的泛滥存在现实风险，大量看似可信、实则缺乏事实核验和原创价值的内容以近乎零成本的方式被大规模生产，可能会逐步污染互联网信息生态，并将大量“验证成本”转嫁给了用户、记者和事实核查员。

2025年末，数据分析机构Graphite针对公共网络档案库Common Crawl中超过6.5万篇英文网页文章进行的抽样分析显示：在2024年11月，AI生成的网络文章数量已经首次超过了人类手写文章。到了2025年中期，新增网页中AI生成内容的比例已经逼近甚至超过50%。而在2020年，这一比例还不足5%。

现阶段，“AI泔水”的广泛传播，与其背后的商业逻辑有关。在平台算法规则下，文章的阅读量、转发量、点赞数与创作者获得的流量分成挂钩。越极端、越耸动、越煽动对立情绪的内容越容易获得算法推荐和高流量分成。

一项在2023年至2025年间开展的针对中国短视频创作者的民族志调查发现，那些善于利用AI工具制作爆款短视频的“AI泔水制造者”，往往并不在乎其作者身份或个人表达，而是更重视速度、规模、可复制性、快速变现和对平台算法的机会主义利用。与此同时，内容平台拥抱的各类生成式AI工具也降低了文化生产的门槛，使更多缺乏传统创作技能的人能够以“互联网创业者”身份快速进入内容产业。

除影响互联网信息生态外，AI泔水的泛滥也有可能反向削弱AI模型的质量和价值，这是因为当AI生成的内容比人类制作的内容传播得更快、更广时，未来的AI模型可能会抓取这些自身生成的互联网内容作为训练数据，而机器生成内容反复进入下一代模型训练数据并不是无害的。

一篇发表于Nature杂志的研究证明，如果模型持续使用机器生成的数据训练，生成内容污染训练集后可能产生模型坍缩（model collapse），导致原始数据分布的尾部信息逐渐丢失。

乐观者认为，人类最终会像治理垃圾邮件一样逐渐学会过滤AI泔水。从事AI新闻产品工作的StoryFlow的创始人卡斯威尔（David Caswell）认为，低质量信息早在生成式 AI 出现以前就大量存在。当平台发现这些内容影响用户体验后，就会逐渐建立过滤机制，就像垃圾邮件一样。未来互联网也可能存在海量AI垃圾，但绝大部分用户根本不会看。

如何鉴别？

路透社研究所认为，尽管AI泔水并不直接等同于精心设计的虚假信息（disinformation），但人们仍然可能在上网时被迫承担“验证成本”。

本质上，识别“AI泔水”的方法与识别其他AI生成内容的方法并无不同。“澎湃明查”曾经在“工具箱系列”文章中详细列举过部分鉴别AI生成内容的方法。这些方法包括但不限于对内容进行溯源，观察图像是否符合解剖学和物理学规律，了解内容的上下文，考察其是否符合地理与社会背景等等。

以文章开头“大象救男子”的视频为例。通过溯源不难发现，这段视频早在8月1日便已出现在菲律宾社交媒体上，而尼泊尔泥石流发生在8月26日，揭示了视频相关说法存在时间线错乱。

视频中，男子撑在岩石上的手似乎与石头融为一体。当他试图爬上象背时，画质突然下降，面部也始终模糊不清，甚至一度近乎消失。此外，大象身上的皮肤纹理并不连贯，褶皱只零散地出现在部分区域。这些都是低质量AI视频中常见的视觉破绽。

左：大象身上的皮肤纹理不连贯；右：视频画质突然下降。这些都是AI生成视频的常见特征。

除了上述线索，Meta开发的AI检测工具meta.ai也通过数字签名揭示了网传视频是由AI生成的。

2024年，Meta以新任指导委员会成员的身份加入了内容溯源与真实性联盟（C2PA）。该联盟的成员还包括Google、OpenAI、Adobe等近百家科技公司。

这一联盟的核心在于提出了一套开放技术标准，可以让一张图片、视频、音频或文档从创建开始，就携带一份可以被密码学验证的“履历”（Content Credentials）。这份履历可以记录内容由什么设备或软件创建、是否经过 AI 生成或编辑、后来被什么工具修改过。这些信息共同组成C2PA清单，并由创建者或工具用私钥进行数字签名。验证者则可以通过对应公钥内容进行验证，查看其来源声明、签名内容、有没有被篡改，以及它是否仍然对应当前文件。

通常情况下，“内容履历”会以元数据形式嵌入文件。但元数据非常容易在截图、转码、压缩过程中被去除。于是C2PA想到了其他与内容进行绑定的方法，其中之一是在内容本身嵌入不可见数字水印。水印就像藏在内容中的防伪标记，在被裁剪、压缩、添加滤镜等常见处理之后仍可能被检测出来。谷歌的SynthID采用的就是这一技术。

尽管如此，水印并不是万能的，在内容经历了强修改、重编码、裁切或重生成时，水印也可能被削弱或破坏。为了应对这些问题，C2PA的成员正在开发更严格的内容溯源技术，加强对篡改行为的防护。

除了依靠模型公司给自己生产的内容打标签，现阶段，市面上还有多款由第三方公司开发的AI生成内容检测工具，如Hive Moderation，它们也能为核查数字泔水内容提供线索。

Hive Moderation鉴别图像由AI生成（图片源自法新社事实核查栏目）。

以图像检测为例。大多数图像检测工具采用空域分析结合频域分析（frequency domain analysis）的技术路径。其核心思路是：真实图像与AI生成图像在频谱结构上存在差异。通过提取这些频谱特征，并训练一个二分类模型，就可以对图像进行真假判断。

但频域分析本身存在一个天然缺陷，即跨模型泛化能力较弱。例如，一款基于GAN-1模型训练的检测工具，在面对由Diffusion模型或升级后的GAN-2模型生成的图像时，识别准确率可能会显著下降。而现实情况是，用于生成AI图像的模型正在不断进化，新产品、新算法层出不穷。这意味着，面对海量、不断变化的AI生成图像，没有任何检测工具能够保证100%的准确率。

就当下的AI生成内容检测而言，除了仰赖频域分析和水印技术外，内容本身及其场外信息仍然是重要的判断依据。一张图片、视频、音频或文档，若是检测到了水印或数字签名，可以作为判断内容由AI生成的依据，但是没有检测到结果，也不能据此证明内容真实。面对越来越多的AI生成视频，读者仍需发挥主观判断力，结合其他线索加以甄别。