给虚假信息造图片，AI比造谣的人自己还熟练

2025年，有一张地图在日本社交平台上被反复转发。图上密密麻麻标注着地震预测数据，配文写着"70小时预警：南加州即将发生大地震"。这张图看起来专业、权威，甚至带着某种科学的仪式感。

但它是假的。地震预测在目前的科学水平下根本不可能做到这种精度。

有意思的是，如果你想给这类造假贴一个标签，比如"这是AI生成的图片"或者"这张图被过度解读了"，你会发现现有的分类体系压根接不住。它既不完全是伪造，也不完全是断章取义，它介于两者之间，是一种"看起来有科学依据，实际上毫无依据"的独特造假方式。

这就是哥本哈根大学的研究团队要解决的问题。他们发现，现有关于多模态虚假信息（也就是图片配文字的造谣方式）的分类框架，全都是残缺的。

**用Dufour等人2024年提出的AMMEBA分类体系去标注真实世界的虚假信息图片，大约40%的样本根本找不到对应的子类别可以归类。**

这个数字挺扎心的。意味着现有的研究工具，面对真实世界里将近一半的造谣图片，是失语的。

造谣的方式，比你想象的更五花八门

先说说为什么这件事难。

虚假信息研究这些年基本都盯着纯文字内容，比如某条推文说了什么假话。但社交媒体早就不是文字为主的战场了。TikTok、Instagram、YouTube几乎完全靠图片视频驱动，就连以文字起家的Twitter/X，现在贴图的比例也高得吓人。

图片为什么比文字更能骗人？心理学研究给出过明确答案：配图的说法比纯文字说法更让人觉得可信，也更容易触发情绪反应。这不是空口白话，是Newman等人2012年就做过的实证研究结论。

问题是，"图片怎么骗人"这件事，学术界至今没有一个统一的说法。

**同一种造谣手法，不同论文里叫法完全不同。**

比如"深度伪造"（deepfake）*：用AI技术生成的虚假人脸或身体动作视频/图片*，在McCulloh 2022年的论文里被叫做"AI-generated"，但在别的论文体系里干脆叫"manufactured media"。这还只是命名混乱，更麻烦的是有些看起来很像的手法，细究起来根本不是一回事。McCulloh提出的"manufactured"类别可以涵盖换脸，但Brennen 2020年提出的"fabricated"类别就不行。

这就像你去不同的医院看同一种病，一个医生管它叫"感冒"，另一个医生管它叫"上呼吸道感染"，第三个医生说这根本是过敏反应。病人搞不清楚自己得的是什么病，医生们自己也说不到一块儿去。造谣研究领域的现状就是这样。

如果不解决这个分类混乱的问题，会发生什么？

答案很直接：**你没法系统性地研究虚假信息，也没法针对性地设计对策。**

如果一个平台想要打击"断章取义配图"这种造谣方式，但连"什么算断章取义"都没有一个清晰边界，那这个打击措施注定是模糊的、低效的，甚至可能误伤正常内容。

数据从哪来:社区笔记这个宝藏

研究团队没有像大多数论文那样，去找专业事实核查机构要数据。他们盯上了X（原Twitter）的一个叫"社区笔记"的功能。

社区笔记*：X平台上一种由普通用户共同参与的内容审核机制，用户可以为可能存在误导的帖子添加说明性注释，注释是否显示需要经过社区共识评审*

这个选择背后有个挺朴素的判断：专业事实核查机构选案例的时候，天然会挑那些"值得被核查"的大新闻、大热点，很多日常生活里散布的谣言，比如某个体育明星的假新闻、某种偏方的谣言，反而会被忽略掉。而社区笔记是全民参与的，什么话题都有人管，覆盖面更广更真实。

研究团队从社区笔记原始数据里筛选出2.7万条左右的（用户名、帖子文字、图片、社区注释）四元组样本，横跨2021年1月到2026年1月，覆盖英语、西班牙语、葡萄牙语、日语、法语、德语、希伯来语七种语言。

这里有个细节值得说一下：他们特意选择这七种语言，是因为这些语言在原始数据集里出现频率最高，能保证每种语言下都有足够多的样本支撑分析，不至于因为样本太少而得出不靠谱的结论。

六个维度,把混乱的分类捋清楚

有了数据，接下来是最硬核的部分：把散落各处的分类体系统一起来。

研究团队没有从零发明一套全新体系，而是把过去十几篇论文里提出的分类框架全部摆在桌面上，逐条比对。

第一步，找出说法不同但本质相同的类别，把它们合并。

第二步，找出定义相似但细节有差异的类别，重新划定边界，确保annotator（标注人员）不会遇到"这个到底算A还是算B"的两难情况。

第三步，把剩下的类别组织成一个层级结构。

这个过程不是纯理论推演，而是一边标注真实数据，一边发现问题、修正定义的反复迭代。

比如"Slanted"（片面呈现）*：Newman和Schwarz 2024年提出的类别，定义是"真实照片对文字所述内容做了带偏见的呈现"*这个类别，理论上定义得挺清楚，但研究团队真去标注数据的时候发现，很多样本落在这个定义的灰色地带里，判断起来非常主观。他们不得不重新细化这个类别，拆出更具体的子类型。

再比如"Mirrored"（镜像翻转）这个McCulloh提出的类别，理论上是一个独立的造谣手法，但研究团队标注了大量真实样本后发现，这种情况在真实世界里几乎不出现，出现频率低到可以忽略不计，干脆就删掉了这个类别。

这个迭代过程特别像做菜时不断试味调整配方。你按照菜谱做出第一版，尝一口发现某个调料放多了，某个步骤该拆成两步，某种食材根本没必要放。菜谱不是坐在书桌前空想出来的，是在灶台边一次次试出来的。如果研究团队只是坐在办公室里比对论文里的定义，而不去真实标注几百条数据，他们根本不会发现"Mirrored"类别在现实里几乎不存在，也不会意识到"Slanted"的定义太模糊。

最终，这套统一后的分类体系包含六个正交轴，也就是六个可以同时独立标注的维度：分类（Classification）、图片类型（Image Type）、情绪（Emotion）、修辞角色（Rhetorical Role）、主题与信息（Topic and Message），以及最核心的多模态机制（Multimodal Mechanism）。

多模态机制这个轴下面细分出25种具体手法，是整套分类体系的灵魂所在。

举个例子说明这套分类体系怎么补上了之前的空白。前面提到的那张日本地震预测地图，研究团队专门为它新增了一个子类别，叫"科学错误或阴谋论"（scientific errors or conspiracies），归在"Slanted"这个大类下面。这个子类别精准地描述了这类造谣的特征：它不是简单的伪造图片，也不是简单的断章取义，而是披着科学外衣、实际毫无科学依据的伪科学包装。

还有一类常见但之前没被覆盖的情况：文字说法夸大了图片实际内容的严重程度或后果。研究团队为此新增了"exaggeration"（夸大）子类别。比如一张普通冰山融化的照片，配文却说这直接导致海平面暴涨，这种夸张的因果关联就属于这一类。

第三类新增的是"Textual claim"（图片内嵌文字造假），专门对应那种假消息直接以文字形式写在图片里，帖子正文只是简单重复或强化这段文字的情况。前面提到的那种"某球队多少年没赢过季后赛系列赛"的假统计数据截图，就是典型例子。

让AI来当标注员,靠谱吗

分类体系建好了，接下来面临一个现实问题：谁来给两万多条数据打标签？

人工标注这件事，听起来公平公正，实际操作起来问题一大堆。虚假信息研究天然涉及大量领域知识，一条关于经济学的谣言，需要标注者对经济学有基本理解，一条关于中东局势的谣言，需要标注者了解当地政治文化背景。这种专业门槛，众包标注很难满足。

研究团队最终选择用一个叫Qwen3.5 27B的视觉语言模型来自动化标注整个流程。

视觉语言模型（VLM）*：一种能同时处理图片和文字输入，并进行综合理解和推理的AI模型*

选择这个模型有几个理由：一是它在同等规模模型里表现出色，部署成本可控；二是支持200多种语言，能处理各语言样本；三是这个模型发布时间比数据集截止日期晚，训练数据大概率覆盖了数据集里涉及的近期事件和话题。

标注流程被设计成一个六步流水线：先判断图片类型，再判断图片试图引发的情绪，接着判断内容是不是虚假信息（还是广告、诈骗之类的其他类型），然后提取主题和核心信息，判断图文之间的修辞关系，最后才是最关键的一步，判断具体用了什么造谣机制。

这个最后一步又被拆成三个子步骤：先判断图片是不是真的参与了造谣（有些图片纯粹是配图装饰，没有实质性欺骗作用，这类会被标为"Decorative"），如果参与了，再判断顶层机制类别，最后针对某些类别再细分出具体子机制。

这套流水线跑一次大概需要24小时，用一张L40S GPU。

那AI标注到底靠不靠谱？研究团队做了细致的验证。

他们先让两位专家标注员（也是论文作者）人工标注了100条社区笔记样本，测量人和人之间的一致性。结果显示，图片类型和主题这两个多标签分类任务，一致性相当高，杰卡德系数（衡量集合相似度的指标）分别达到0.6和0.7。情绪这个更主观的维度，一致性就低一些。机制和子机制这两个单选分类任务，一致率分别是65.2%和56.8%。

**这个结果本身挺有说服力：即便是两位受过训练的专业标注者，面对细粒度、模糊性天然存在的虚假信息机制判断，也很难做到完美一致。**

这说明什么？说明这套分类体系设计得足够细致，能捕捉到有意义的区分，但同时也提示我们，虚假信息的机制判断本质上带着一定的主观解读空间，不可能追求100%的绝对客观。

接着，研究团队让AI模型重复跑了三次标注流程，测量AI跑不同次的自我一致性，结果和人类的一致性模式很像：越主观的维度一致性越低，越客观的维度越高。有个反常的地方是，子机制这个维度AI的一致性反而高于顶层机制，跟人类标注者的表现恰好反过来。

最关键的对比来了：AI标注和人类标注的一致性表现如何？

答案是，**AI和人类的一致程度，跟人类和人类之间的一致程度非常接近，虽然略低一点，但差距不大。**

这意味着，这个AI模型标注多模态虚假信息机制的可靠程度，已经逼近专业人类标注者的水平。

为了进一步验证，研究团队还做了一个更严格的测试：随机抽取630个样本，把AI预测的标签和随机抽取的干扰标签混在一起，让两位专家判断哪些是对的。结果显示，在排除干扰标签的情况下，AI预测的准确率达到79.3%。

不过这个数字背后藏着不小的差异。有些子类别，比如"图片操纵-删除内容"和"不可靠来源-讽刺账号"，准确率超过90%，几乎是稳的。但另一些子类别，比如"片面呈现-误解相关性"和"伪造图片-摆拍场景"，准确率跌破60%，说明AI在这些更依赖细腻语境判断的类别上还有明显短板。

这就好比让一个刚学会看X光片的实习医生去诊断病情。有些明显的骨折他一眼就能看准，因为影像特征非常直白。但遇到一些症状模糊、需要结合病史综合判断的疑难病例，他的判断准确率就会明显下降。AI在这套任务上的表现，某种程度上也是这样，简单直接的造谣机制它抓得很准，需要复杂语境推理的机制它还在学习中。

数据说话:虚假信息到底怎么骗人

把整个分类体系跑一遍之后，一些有意思的规律浮出水面。

在社区笔记数据集里，最常见的造谣机制是"Slanted"（片面呈现），超过7000个样本，其次是"Decorative"（纯装饰无实质欺骗）和"Mismatch"（图文不匹配）。

一个让人有点意外的发现是：**AI生成的假图片和纯人工伪造的假文档，出现频率几乎相当，两者加起来甚至超过了除文字篡改之外的所有图片篡改方式。**

这说明，在当前这个AI生成工具泛滥的时代，"造一张假图"已经不再需要多少技术门槛了。你不再需要PS高手，只需要一个AI绘图工具，就能生成足以骗过普通人眼睛的图片。

再往细看，"Mismatch"这个大类下面，身份错配和事件错配这两种情况特别常见，也就是把某个人说成是另一个人，或者把一个事件的图片说成是另一个完全不同的事件。

多语言数据带来了跨文化对比的可能性。研究团队发现，**葡萄牙语内容里，纯装饰性图片的比例明显偏高。**

原因追溯下去，是因为葡萄牙语虚假信息更多集中在体育、名人、娱乐这些话题上，这些话题本身就不太需要复杂的造谣手法，一张相关的配图配上夸张的文字标题就够了。

**日语内容则明显偏向使用"片面呈现"机制，具体拆解发现，绝大多数是"科学错误或阴谋论"这个子类别。**

深入看几个具体样本，发现大量帖子在传播伪科学的地震预测说法，这和日本本身地震频发、社会对地震话题高度敏感这个背景高度吻合。谣言的种类往往和一个地区、一种语言的社会关切紧密绑定，这不是巧合。

案例解剖:疫苗谣言为什么爱用新闻截图

研究团队还做了几个更细致的案例研究，其中疫苗相关的虚假信息案例特别有启发性。

不出所料，疫苗风险相关的谣言大部分都用了"科学错误或阴谋论"机制，配合大量文字断言。

但如果只看到这一层，故事就讲得太浅了。研究团队进一步分析这类谣言使用的图片类型，发现了一个明显的规律：**新闻截图这种图片类型，在疫苗谣言里出现的比例明显偏高。**

这说明一件事：造谣者很清楚，直接编造一段没有来源的说法可信度不高，但如果配上一张"看起来像新闻报道"的截图，哪怕这个截图本身是伪造或者篡改的，普通人的心理防线也会自然放低。

这个手法本质上是在借用新闻机构长期积累下来的公众信任。就像一个假冒的医生穿上白大褂站在诊所前台，普通患者不会去核实这个白大褂背后的执照真假，白大褂本身就足够传递出"这个人值得信任"的信号。如果没有这层新闻截图的伪装，同样的谣言只用纯文字说出来，可信度会大打折扣，这正是为什么造谣者不惜费力伪造或截取新闻截图。

另一个案例是反移民叙事，研究团队发现这类谣言明显偏向使用图片内嵌文字造假、片面呈现，还有时间地点错配这几种手法。情绪分析进一步显示，愤怒和恐惧这两种负面情绪被大量调动，明显高于整体平均水平。

体育竞争类的谣言又是另一种模式，明显偏爱用篡改文字的图片，通常是伪造的比赛数据或选手战绩统计截图。这跟疫苗谣言用新闻截图借信任、反移民谣言用情绪煽动的手法完全不同,说明**不同话题领域的造谣者，会本能地选择那个话题最有效的说服手段**，这正是研究团队反复强调的一点：应对虚假信息的策略不能一刀切，得针对不同领域采取不同对策。

这套方法能不能推广:AMMEBA数据集的检验

为了检验这套分类体系和标注流程是不是只对社区笔记这一个数据集管用，研究团队还把整套方法应用到了另一个数据集，AMMEBA上做交叉验证。

AMMEBA*：由专业事实核查机构核实的多模态虚假信息数据集，样本来源比社区笔记更窄，但已经过专业机构核实*

这个数据集本身自带一部分人工标注，研究团队拿AI标注结果和这些既有人工标注做对比，在七个可以对齐的类别上，F1分数（衡量分类准确性的综合指标）在0.61到0.83之间，表现相当不错。唯一的例外是"时间错配"这个类别，只有0.26。

研究团队分析了这个偏差的原因：**很可能不是模型本身的问题，而是提示词设计逻辑上的差异。**

他们的AI模型被指示，当一个样本同时存在时间错配和地点错配时，优先选择地点错配这个标签，避免重复标注。但AMMEBA的原始人工标注习惯同时打上两个标签。这种规则设定上的差异，直接拉低了这一类别的表面一致性数字，但并不意味着模型判断错了。

把两个数据集的整体机制分布放在一起对比，差异也很明显。AMMEBA里"Mismatch"是最主要的机制，社区笔记里则是"Slanted"占主导。研究团队解释，这很大程度上是因为AMMEBA专门筛选了图片确实起到主动欺骗作用的样本，而社区笔记数据集里包含了大量图片只是纯装饰的普通谣言帖子。AI生成图片在AMMEBA里也明显更少见，这大概是因为AMMEBA的数据收集时间更早，还没赶上最近这两年AI绘图工具的爆发期。

这套方法留下了哪些没解决的问题

研究团队自己也坦诚列出了这项工作的局限。

首先，一些其他研究提出过的分类维度，比如造谣者的意图（是故意的还是无意的），这次没有纳入统一体系，因为这类信息很难仅凭内容本身准确判断，需要更多外部证据支撑。

其次，即便社区笔记数据集规模已经不小，具体到某个特定小众叙事话题，样本量依然可能不够支撑深入分析。AMMEBA用的只是抽样子集，规模同样有限。

再者，出于计算资源和避免依赖商业闭源系统的考虑，研究团队选用的Qwen3.5 27B并不是当前性能最强的视觉语言模型，换一个更大或者专门微调过的模型，理论上标注质量会更好。

多语言处理这块，研究团队也承认做得比较朴素，完全依赖模型自带的多语言能力，没有额外设计翻译流程或针对特定语言优化，这块还有改进空间。

还有一点值得一提：目前这套分类体系把多模态机制当作单标签分类任务处理，但现实中很多虚假信息其实同时踩中多个造谣手法，比如一张图片同时存在时间错配和地点错配。把这个维度扩展成可以多标签标注，是一个自然的后续方向。

最后，研究团队在人工核查过程中也发现，两个数据集里都存在一部分质量不高的样本，如果能有一个独立于数据集自带质量标注的过滤机制，结果会更稳健。

写在后面

读完这套分类体系的构建过程，最触动我的不是那25种造谣机制本身，而是那个"40%样本无法归类"的数字。

**这个数字提醒我们一件容易被忽略的事：我们研究一个问题的工具，本身就在塑造我们能看到什么问题。**如果分类体系天然就只覆盖了60%的真实情况，那基于这套体系做出的所有结论、所有对策，天然就带着一个巨大的盲区，而这个盲区往往被研究者自己忽略，因为"看不见的东西不会被统计进去"。

另一个让我反复琢磨的细节，是日语地震谣言和葡萄牙语娱乐谣言那种鲜明的地域差异。这不只是一个统计上的有趣发现，它其实在提示一件更深层的事：虚假信息从来不是一种孤立的技术产物，它是嵌套在具体社会焦虑、具体文化关切里生长出来的。日本人怕地震，所以地震预测谣言在那里特别泛滥；葡萄牙语用户更关心体育娱乐，谣言也就顺着这个话题走。造谣者本质上是在利用人已经存在的恐惧和兴趣，AI只是让这个利用过程变得更廉价、更高效了。

疫苗谣言偏爱新闻截图这个发现也让我想了很久。它揭示的其实是一种更普遍的心理机制：人在判断信息真假时，往往依赖的不是内容本身的逻辑严密性，而是内容的"外观"和"来源标识"。一张带着新闻网站排版样式的截图，哪怕内容是编的，也比一段裸露的文字更容易被相信。这个发现如果推广开来想，其实解释了为什么"仿冒官方口吻"这种造谣手法在各种语境下屡试不爽，无论是假冒政府公告还是假冒专家发言，本质上都是在盗用某种视觉或格式上的权威符号。

那张日本的地震预测地图，我又想了一遍。它披着数据可视化的外衣，用密密麻麻的百分比和颜色渐变营造出一种"这是经过严谨计算得出的结果"的假象。而真正的地震预测科学，恰恰是没有这种精确到70小时的能力的。这张图之所以危险，不是因为它彻头彻尾地捏造了一个场景，而是因为它精准地模仿了"看起来科学"的样子，让人放下了对科学话语本该保有的审慎。

Q&A

Q1：社区笔记数据集是什么？

A：社区笔记是X（原Twitter）平台的一种社区共同参与的内容审核机制，普通用户可以为可能误导的帖子添加说明性注释。研究团队从中收集了近2.7万条涵盖七种语言的（用户名、帖子、图片、注释）样本，用于构建虚假信息分类体系。

Q2：AI标注虚假信息机制靠不靠谱？

A：研究显示AI模型（Qwen3.5 27B）标注结果和人类专家的一致程度已经接近人类之间的一致程度，非干扰样本的准确率达79.3%。但在部分需要复杂语境判断的子类别上，比如"片面呈现-误解相关性"，准确率只有60%左右，还有改进空间。

Q3：这套虚假信息分类体系有哪些主要维度？

A：包含六个正交轴：分类（是否为虚假信息、广告或诈骗）、图片类型、情绪、图文修辞关系、主题信息，以及核心的多模态机制，机制下细分出25种具体造谣手法，比如AI生成图片、图文错配、片面呈现等。