政新微评丨AI生成不是“免责牌”

AI生成

不是“免责牌”

政新微评

近日，一条AI生成的“南岸立交桥倒塌”视频突然刷屏，桥梁断裂、烟尘滚滚的画面让不少网友信以为真。重庆南岸网信办核查无此立交桥，发现视频中车辆文字、车牌均有异常，AI造假痕迹明显。发布者虽标注“内容由AI生成”，仍被警方行政拘留6日。警方提示：标注AI生成不等于造谣免责，扰乱公共秩序必受罚！

AI技术被用于编造虚假信息，带来的迷惑性更强，危害性更大。在当下信息传播迅速且广泛的时代，AI生成的虚假信息凭借其逼真的呈现形式、高度仿真的细节，往往能以假乱真，让普通民众难以辨别真伪。这不仅严重扰乱了正常的信息传播秩序，还可能引发一系列连锁反应，对社会稳定、公众信任以及行业发展等诸多方面造成不可估量的损害。针对这一新问题，需要从多个维度进行精准判断和严格追责：

01

主观目的

要从主观目的上判断，是否是为了吸引流量、制造话题有意为之。在流量至上的网络环境中，部分人为了追求个人利益最大化，不惜利用AI技术编造虚假信息来博眼球。他们深知，具有争议性、爆炸性的虚假内容更容易引发公众的关注和讨论，从而迅速积累大量流量。例如，一些自媒体账号为了增加粉丝数量和提升知名度，故意炮制一些耸人听闻的虚假新闻，如虚构名人绯闻、编造重大灾难事件等。

这种主观上故意利用AI技术传播虚假信息的行为，严重违背了信息传播的真实性和客观性原则，必须予以严厉打击。一旦查实，应按照相关法律法规追究其法律责任，以起到警示作用，防止类似行为再次发生。

02

获利情况

要从获利上判断，如果已经带来了客观上的粉丝增长，甚至不当流量变现就要承担责任。利用AI编造虚假信息往往伴随着明显的经济利益驱动。当虚假信息在网络上广泛传播后，发布者的账号通常会吸引大量粉丝关注，粉丝数量的增加意味着账号影响力的提升，进而为发布者带来更多的商业机会和收益。一些不法分子通过与商家合作进行广告推广、带货销售等方式，将虚假信息带来的流量转化为实际的经济利益。这种不当获利行为不仅损害了消费者的合法权益，也破坏了市场的公平竞争环境。因此，对于通过AI编造虚假信息实现不当流量变现的行为，必须依法追究其经济责任，没收违法所得，并处以相应的罚款，让违法者为其行为付出沉重的代价。

03

社会影响

要从造成的社会影响上判断，是否引发公众不安、疑惑等情绪，形成不良社会影响，一经造成，也必然要追责。AI编造的虚假信息具有很强的传播性和感染力，能够在短时间内迅速扩散，引发公众的广泛关注和讨论。一些虚假信息可能会涉及公共安全、社会稳定等敏感领域，如虚构疫情信息、编造恐怖袭击谣言等，这些信息一旦传播开来，会让公众产生恐慌和不安情绪，影响正常的社会秩序。此外，即使是一些看似无关紧要的虚假信息，如果大量传播也会误导公众的认知，破坏社会的信任体系。例如，虚假的美食推荐信息可能会让消费者遭受经济损失，虚假的健康养生知识可能会对公众的身体健康造成潜在威胁。因此，对于造成不良社会影响的AI虚假信息传播行为，必须依法追究相关责任人的法律责任，以维护社会的稳定和公众的合法权益。

04

账号初衷

要从相关账号的自家设定上判断，核心还是该账号发布相关内容是否是出于技术介绍等正当理由。在判断AI虚假信息时，需要考虑账号的定位和发布内容的初衷。有些账号是以介绍AI技术、展示AI应用成果为主要目的，在发布相关内容时可能会涉及到一些AI生成的示例。如果这些示例是为了说明AI技术的原理、特点或应用场景，并且明确标注了是模拟生成的内容，不存在故意误导公众的意图，那么这种行为通常不应被认定为传播虚假信息。然而，如果账号打着技术介绍的幌子，实际上是为了传播虚假信息、谋取私利，那么就必须对其进行严肃处理。例如，一些账号以展示AI生成虚假图片的能力为卖点，吸引用户关注，然后借机推广一些不良产品或服务，这种行为就超出了正常技术介绍的范畴，属于利用AI技术进行虚假宣传，应依法予以惩处。

05

要压实平台与技术方治理责任

要治理这一问题，仅靠事后追责违规违法账号远远不够。内容平台应当建立AI生成内容的识别与标注机制，对高频发布疑似AI虚假信息的账号进行限流、警示或封禁。AI工具提供方（如大模型厂商）应在协议中明确禁止用于造谣、欺诈，并在技术层面加入水印、溯源信息或生成内容的detectable特征，便于平台和监管部门识别。没有技术治理的配合，仅靠事后追责难以遏制AI虚假信息的快速扩散。

06

要提升公众辩证能力与媒介素养

AI虚假信息的迷惑性再强，也往往存在逻辑漏洞、细节矛盾或来源不明的特征。应当鼓励公众在遇到疑似AI伪造内容时，做到“先核实，后转发”，主动查看是否有可靠信源、是否有官方回应、是否有明显的不合理之处。同时，媒体和平台应加强AI识谣知识的普及，形成“不信谣、不传谣、会识谣”的社会氛围。

AI编造虚假信息，本质上是对信息生态的深度污染。判定责任时，应综合主观目的、实际获利、社会影响、内容标识与账号性质等多重因素，避免“一刀切”，也要防止以“技术中立”为名逃避责任。只有法律追责、平台治理、技术防伪、公众素养等方面多管齐下，才能有效遏制AI虚假信息的蔓延。

福尔猫斯

一个不愿露脸的业内人士，告诉你舆情后面的可能有的故事。

政新在线ID:abczhengwu

政新在线是行业前沿的政务新媒体服务平台，致力于为政府单位提供标准化的政务新媒体服务产品，并搭建“政务新媒体产品平台”，建立起政府购买服务、新媒体供应商服务政府的桥梁与纽带。