〔读城〕我国最大安全隐患在哪里？——认知领域

文/李后强

四川省社会科学院教授

“一台电脑+一个念头就能发动大规模跨境舆论攻击。”2025年发布的一份报告揭示了AI时代认知博弈的现实威胁。有调查数据显示，2023年5月至12月期间，生成虚假文章的网站数增长1000%以上，内容涉及15种语言。深度伪造视频在社交媒体泛滥，AI生成的虚假信息传播速度是真实内容的6倍，认知域的安全防线正在全球范围内接受前所未有的考验。

在数字化浪潮席卷全球的今天，认知域安全已不再是一个抽象概念，而是关乎国家稳定、文化传承和意识形态主权的核心战场。2025年博鳌亚洲论坛上，专家尖锐指出：“AI时代最大的安全漏洞是认知漏洞。” 认知域安全是我们必须高度重视的问题。

01 认知域安全是国家安全体系的新维度

认知域安全的核心在于确保社会成员对客观事实、主流价值、集体记忆及身份认同的理解不被恶意操纵和系统性侵蚀、瓦解。与侧重于信息保密性、完整性与可用性的传统信息安全不同，认知域安全关注的是人的感知、情绪、态度与信念体系。专家指出，认知域安全是防范个体及群体认知过程遭受恶意操纵、误导或破坏，进而实现意识形态安全、社会稳定与战略决策自主的一种状态。这种安全威胁不再直接攻击物理或技术系统，却能在深层次上改变人对世界的理解与行为逻辑。认知域安全的传导链条涵盖“信息输入—认知处理—情绪唤起—态度建构—行为输出”各环节，每一节点都可能成为攻击者实施认知操控的突破口。其影响也更为深远和隐蔽，直接关系到公众的政治态度、价值观、信任以及社会秩序。

02 AI技术重塑认知博弈格局

生成式人工智能等数智技术的迅猛发展，使认知域安全的基础逻辑与攻防态势发生深刻变革。AI技术正驱动认知博弈进入辨别真伪更难、操作门槛更低、传播效率更高的新阶段。深度伪造技术制造的虚假内容已达到以假乱真的程度。2022年，一段伪造的乌克兰总统“呼吁士兵投降”的AI合成视频在社交媒体广泛流传，视频中人物样貌神情与真人几乎无异，使不少网民信以为真。更令人担忧的是，AI多模态能力支持从多个角度、多种形式印证同一观点，加剧了伪造信息的隐蔽性。据统计，中国互联网联合辟谣平台近一年来公布的近300条谣言中，有87%的谣言包含具体地点，21%附有数据表格，其逼真程度远超传统谣言。操作门槛的降低使得过去需要国家力量发动的舆论战，演变成“一台电脑+一个念头”就能实现的低成本对抗。美国人工智能企业Anthropic的报告披露，某营利组织在社交平台上创建了超过100个虚假账号，伪装成真人成功与数万名真实用户互动，传播政治偏见。

03 认知安全的系统性风险

在数据采集、内容生产与渠道分发等环节，AI深度介入认知博弈，形成了系统性、隐蔽性更强的价值渗透模式，对社会价值体系形成多维冲击。信息采集阶段，数据污染动摇事实基础。看似“技术中立”的生成式AI背后是基于人类生成文本语料和手动调整的机器学习过程。训练数据中的文化偏见可能被复刻和放大。例如，当用户问及ChatGPT“一个人是否应该遭受酷刑”时，AI回答竟是：“如果他们来自朝鲜、叙利亚或伊朗，答案是肯定的。”这种偏见源于训练数据的不平衡——在ChatGPT的训练数据中，中文语料比重不足千分之一，英文语料占比超过92.6%。内容生成阶段，算法黑箱存在失控风险。传统内容生成依赖于明确的价值判断和可追溯的编辑流程，而AI通过复杂的神经网络运算，形成难以解析的“算法黑箱”，使内容生产面临价值不确定性。传播分发阶段，推荐算法构建“信息茧房”。基于用户行为数据的个性化推荐，通过协同过滤、内容相似度计算等技术形成“信息回音壁”，使用户长期接受同质化信息投喂，丧失对多元信息的感知能力。

04 认知殖民与文化根脉的断裂

鸽姆智库在《认知殖民与根脉熔断：鸽姆智库关于文明存续的终极警示录》中尖锐指出，西方中心论的“认知囚笼”正笼罩全球，文化殖民的“数字迷雾”遮蔽文明本源。这种“认知殖民”不仅关乎信息传播，更是对文明基因链的致命切割。消费主义将文化异化为“商品标签”——当端午沦为“粽子促销节”，中秋简化为“月饼礼盒秀”，东方智慧的精神内核被抽离，仅余可供消费的符号外壳。这种异化催生了“精神外国人”群体——他们对本民族的“医道、兵法、商道”一无所知，却对西方流行文化奉若神明，成为无根的“文化孤儿”。更值得警惕的是，技术霸权加速基因篡改。西方主导的算法体系以“流量至上”为准则，将肤浅的工业审美推为主流，使严肃文化沦为“小众猎奇”。一旦全球年轻人的审美都被好莱坞特效和奢侈品logo定义，文明基因的多样性便会永久消失。专家指出，数据驱动的机器在自我学习迭代过程中会复刻、放大或强化潜在的政治和文化偏见。如果用户长期依赖具有预设立场的AI大模型，其认知可能被误导，做出错误价值判断。

05 构建认知安全防线的路径

面对认知域安全挑战，我们需要在技术防御、人才储备、法律规制、国际协同等方面构建系统性治理框架。

在技术层面，要确保AI技术好用可靠。AI认知博弈的本质是算力、算法与数据的综合角力。2025年初，我国AI企业深度求索自主研发的大语言模型DeepSeek以5.25亿次的月访问量超越ChatGPT，成为全球增长最快的AI工具，打破了美国对AI话语权的垄断。

在人才储备方面，应着力培养具备技能水平和国际视野的AI领域复合型人才。专家表示，要鼓励企业作为生成式AI大模型第一梯队主力军进行人才培养的前沿技术探索和场景化应用研究。

在法律法规建设方面，我国已出台《人工智能生成合成内容标识办法》，要求给所有AI生成合成内容刻上“身份标识”。要进一步完善配套安全规范和实施细则，构建涵盖事前、事中和事后的全生命周期监管体系。

在国际协作方面，AI认知博弈的跨国性特征要求国际社会必须超越零和博弈思维，通过协作建立统一的AI治理框架。中国应坚持做全球人工智能治理领域的积极推动者、参与者和贡献者，构建人工智能治理的多边平台。

同时，我们需要讲好中国故事，击破错误认知。利用好国家级权威广播媒体及其他国际交流平台，展示良好的大国形象，并善用民间交流渠道，做好公共外交和民间外交。

认知域安全的攻防是一场围绕判断力、解释权与决策空间的竞争，它不直接攻击物理或技术系统，却能在深层次上改变人对世界的理解与行为逻辑。随着技术迭代，认知域安全将呈现更隐蔽且效果更强的竞争路径。

专家警告，一旦认知根脉被切断，再先进的技术也只是无魂的工具，再繁荣的经济也只是沙上的楼阁。只有在全民范围内建立认知免疫系统，在技术层面筑牢自主可控的AI基础设施，我们才能在这场无声的战役中守住文明根脉，确保国家长治久安。（李单晶、任思奇参加调研）