死寂的互联网——AI正在为你打造专属虚假网络

生成式AI如何助推“互联网已死论”，引发真实性危机，以及为什么AI检测工具无法拯救我们。

作者：ToxSec2025年10月28日

AI正在加速“互联网已死”理论的出现。

简而言之：你在网上感受到的那种诡异感是真实的。互联网上充斥着大量AI生成内容，它们模仿人类的能力远胜于我们识别它们的能力。真实性已然终结。我会向你解释为什么我们在这场战斗中已经节节败退。

• 我们已经从‘垃圾信息时代’迈入了‘模拟造假时代’。

“恐怖谷效应” 笼罩整个互联网

坦白说，你肯定也有过这种感受：刷网页时突然觉得不对劲。读产品评论，某条写得过于完美，精准踩中所有营销关键词，热情得不像真人；看评论区，某条回复千篇一律，毫无灵魂，仿佛是用一堆 “安全话术” 拼凑而成。语法无可挑剔，却少了人类该有的灵气。

多年来，我们都把这些情况归为普通垃圾信息。但这种诡异感越来越频繁，而且虚假内容不再粗糙。曾经零星的伪造信息如今已泛滥成灾，AI生成的内容铺天盖地而来。我们正飞速从 “人类为人类打造的互联网”，转向 “机器为人类打造的互联网”—— 而这些机器的 “工作能力” 已经可怕到令人心惊。

这绝非 “更高级的垃圾信息” 那么简单。我们正在亲眼见证一个个性化、合成化的虚拟世界诞生。

“互联网已死理论”迎来重大升级

为了把握未来的发展方向，我们必须回顾一下“互联网已死论”。这个理论最初在网络论坛上兴起，是一种听起来颇为可信的阴谋论。其核心观点是，互联网早已空洞无物，大量的网络活动都是由机器人伪造的，目的是为了操纵搜索算法和广告收入。当时，大多数人将其视为科技界的妄想症。

嗯，这种担忧现在看来颇具先见之明，因为这些机器人刚刚通过大型语言模型（LLM）进行了重大升级。过去简单的脚本已被生成式人工智能所取代。这种变化令人震惊。如果说旧机器人是提线木偶，那么现代AI就是一支充满创造力的智能体大军，能够以惊人的规模构思出独特、贴合语境、酷似人类的合成内容。

这项技术飞跃彻底改变了游戏规则。新一代AI的目标是更高层次的博弈：模拟文化本身。其目标不再是伪造一条评论，而是制造一种广泛的社会共识感。

欢迎来到你的专属虚假互联网

真正的危险不在于互联网充斥着虚假内容，而在于这些内容是 “为你量身定制” 的。我们面临的不是一个统一的虚假互联网，而是数百万个个性化的AI虚拟世界。这便是终极的AI回音室，一个完美的现实气泡，你可能根本意识不到自己是唯一的 “居民”。

想象一下，一个搜索引擎能够即时生成文章，完美地印证它认为你已经相信的事情。再想象一下，社交媒体上的所有评论都来自AI生成的、旨在与你观点一致的账号。这就是在个人层面上制造认同的方式。当你看到的每篇文章、每条评论都支持你的世界观时，它就不再是 “观点”，而会变成你眼中的 “客观事实”。

最大的牺牲品是 “偶然性”—— 那种偶遇新想法、接触反对意见的魔力。互联网曾是混乱却真实的公共广场，而AI定制的现实里没有 “意外之喜”。它是一个干净的空间，通过消除认知失调让你保持沉浸，却也为定向AI虚假信息铺平了道路。

AI检测领域的军备竞赛已经输了

所有人都会问：“我们不能开发AI内容检测工具吗？” 想法很好，但我们正陷入一场注定要输的疯狂军备竞赛 —— 生成器永远占据上风。

检测工具的工作原理是识别AI模型留下的细微统计“痕迹”。但是，我们每开发出一个智能检测器，就会有更智能的人工智能被训练来隐藏这些痕迹。这是一场永无止境的猫鼠游戏，老鼠会根据猫的最后举动重新设计自己。像“加水印”这样的解决方案非常脆弱；不法分子只需使用没有水印功能的模型即可。

当技术之争注定失败时，其后果便是社会层面的。我们正步入一个充满根深蒂固的不信任的时代。欢迎来到“真实性危机”的世界，在这个时代，你必须假定一切都是假的，直到被证明是真的。这迫使我们所有人背负沉重的“现实税”，导致集体倦怠和愤世嫉俗，最终使数字信任彻底瓦解。

唯一出路：回归更具人性的互联网

我们已经从最初在网络上看到机器人时的那种怪异感觉，发展到理解它对我们未来的真正意义。“互联网已死”理论不再是阴谋论，而是对当下正在发生的事情的预测。这不是遥远的反乌托邦，而是已经到来的真实性危机。

那么，我们该怎么办？出路必然是 “更具人性”。答案并非某种神奇的检测工具，而是我们数字素养的全面提升。我们不能只问“这是真的吗？”，而是“我为什么会看到这些？”健康的批判性思维才是我们最好的防御。

或许，真正互联网的未来在于人们有意识地选择花时间在规模较小、信任度高的“数字花园”，比如小众论坛、私人群组，在这些地方，声誉和真实互动至关重要。我们或许需要重新学习如何构建社群，确保我们确信屏幕另一端的人是真实的。

这就引出了最重要的问题：随着我们的世界充斥着完美定制的合成内容，我们该如何在网上证明自己是“真人”？

常见问题解答

AI生成的内容如今在网络上有多普及？它已经存在，并且正在呈指数级增长。我们今天就能看到各种复杂的AI评论、文章和产品评价。虽然并非所有用户都完全处于模拟环境中，但这些工具的部署速度已经远远超出了我们的预期。趋势显而易见，而我们正处于增长曲线的陡峭阶段。

AI回音室和信息茧房有什么区别？信息茧房是被动的：算法会向你推送你可能认同的真实用户的内容。AI回音室则是主动的：它会从零开始为你生成全新的合成内容和虚假“人物”。这就好比“精选播放列表”和“为你量身创作的歌曲”之间的区别。

如何保护自己免受AI驱动的虚假信息侵害？答案在于转变思维方式。成为一名有意识的信息消费者，并培养良好的数字素养。积极寻找规模较小但值得信赖的社群。直接支持人类创作者。最重要的是，保持健康的怀疑态度，对信息流中的所有内容都问问自己“我为什么会看到这些？”

监管能解决AI合成内容的问题吗？监管可能会发挥作用（比如强制加水印），但这与言论自由之间存在微妙的平衡，而且技术发展总是远超立法速度。法律虽然有所帮助，但并非万能灵药。核心防御始终在于拥有批判性思维和受过良好教育的用户群体。

本文编译自substack，原文作者ToxSec

https://substack.com/@toxsec/p-176417949