AI的未来：一场革命，不能等，也不能幻想

【留美学子】第3915期

13年国际视角精选

仰望星空·脚踏实地

【陈屹视线】教育·人文·名家文摘

让认知 永远快人一步

AI的未来：一场革命，不能等，也不能幻想——Transformer系列总结，下一步的启航点

作者：刘丹（DAN LIU，谷主）

【编者按】

八篇拆完，这一篇收官。

拆了什么？拆掉了把AI能力增长，线性外推到理解、验证、判断与责任的乐观叙事。八篇下来，落到一个判断：Transformer架构下的AI，缺一根轴。验证轴。

这一篇，正面收拢。

它把八篇的碎片收成四层边界——能力、验证、责任、使用。四层归为一句话：机器负责可验证的执行，人类负责不可验证的抉择与责任。

它给出了弱真值场景的工程解法：防盗网。验证轴建不起来的地方，权限边界可以建。不需要先解决“它到底对不对”，只需要先规定“什么允许碰，什么不允许碰”。

它提出了一个前八篇没正面回答的问题：AI把执行层接走之后，判断力的训练场在哪里？如果年轻人在真实决策、真实后果、真实代价中成长的机会被AI接走了，下一代能签字的人从哪里来？

最后，它落在两个字上：不能等，也不幻想。

等，是把问题交给时间。但时间不会解决一个没有人去解决的问题。幻想，是把问题交给某个“技术突破”。但技术突破只解决能力轴上的问题，不解决验证轴上的问题。

这不是答案。

这是一张地图。

图已经画到这里，剩下的路，是人走的。

这一篇还有一个判断，值得单独说一句：

验证要真正立住，还得看一件事——后果能不能回滚。

错了，能不能改；做了，能不能停；出事了，能不能赔。

可回滚的活，AI可以干。不可回滚的活，AI不能单独干。

边界不在算力上，在后果上。

如果你关心的是“AI到底能替我们做什么、不能替我们做什么”，这一句，就是这篇最想先递给你的东西。

一个65岁的人，用自己独特的视角，写了九篇文章，有根有据地推演了Transformer架构下AI的未来。这样的细节与逻辑，至少在我所见的公开讨论中，可能是第一次有人这样完整地写出来。

不一定能激起什么浪花，但也算是一个65岁的人，面对这场正在发生的AI革命，尽自己的一点心愿。

【作者声明】

第一，这篇文章讨论的，是Transformer架构下的AI，不是“未来可能的AI”。

第二，这篇文章是前八篇系列的回顾与总结，同时是下一个探讨方向的起点。

第三，这篇文章不是反对AI。恰恰相反，它首先肯定AI是社会的未来。正因为认为AI是未来，所以更需要知道它的边界。

注明：本文在文献调研、图表制作、文字润色，以及部分数据收集与初步核对等环节使用了AI辅助；文章的观点、判断与逻辑框架均由本人提出，并由本人负责。

【导言】

先给结论。

AI是社会的未来。这是一场革命性的推动，是每一个人都不可避免的冲击与挑战。

写这个系列，不是唱衰AI，不是制造恐慌。是为了透明度——让众人有一个比较清晰的认知：

• 在Transformer架构下，它的能力在哪里

• 它的局限性在哪里

• 在非真值标尺的场景下，它的危险性在哪里

• 它造成的中低技术层真空区，会带来什么

• 未来的教育，该何去何从

前八篇拆了一部分，但没有正面收拢。这篇，正面收拢。

边界不是刹车，边界是地图。

前八篇拆的是极限。这一篇要说的是：在极限之内，AI仍是一场革命——它可能让会判断的人更会行动，也可能让不愿判断的人退化成只会提问的知道分子。期待，恰恰建立在看清这一点上。

但必须先说清楚一件事：这九篇，不是预言，不是证明，是推演。

推演看的是逻辑是否自洽、路径是否成立，不是结果是否一定发生。没人能预知未来，能做的只是把可能的分岔、可能的天花板、可能的出口，尽可能诚实地画出来。

它不承诺“AI一定会怎样”，也不承诺“人类一定会怎样”。它只承诺一件事：把坐标画出来，让你自己知道站在哪里。

如果有人把它当成“答案”，那是误读；如果有人因为它没给出答案就认为它没用，那也是误读。它的价值恰恰在于：在所有人都急着找答案的时候，先把问题问清楚。

如果我有答案，我现在就不是在写文章了，而是去当OpenAI的CTO了。

——这就是这篇收官之文的全部立场。剩下的，交给时间。

01

前八篇讲了什么

用几句话，把八篇的核心判断串一遍。

如果前八篇你只读了一两篇，这一节是地图。如果八篇都读了，这一节是坐标。

第一篇：它走不到真正的理解。概率预测不是理解。

Transformer优化的是统计预测，不是真值验证。它能答对，但它不知道自己为什么答对，也不知道自己什么时候会答错。

第二篇：验证权不能留给自己。

就算加上了验证机制，这个验证权也不能由系统自己掌握。一个系统不能自己宣布自己是对的。得有人在外面说了算。证伪边界对“已知的未知”有效，对“未知的未知”无效。验证器需要被验证，无限递归。

第三篇：它缺的是验证轴。

Transformer在做两场概率游戏——预测和压缩。它缺第三根轴：验证轴。没有这根轴，它不知道自己的前提什么时候失效。验证轴需要四样东西：图纸、证伪边界、承重墙、当下判断。而验证轴必须独立。

第四篇：那六个工程死穴，不是它的错。

缺状态管理、缺因果分类、缺停止机制——六个死穴不是Transformer的错，是所有概率引擎的共同难题。

它只是把问题放大了。共同根因：没有真值标尺。自检、自纠、自对齐，本质上是同一个概率游戏。

第五篇：它会停在半AGI。

能替代执行层，难以独立承担最终判断。能大规模试错，选不了终局方向。有真值标尺的地方跑得快，没标尺的地方跑不动。它不是AGI，也不是工具，是介于两者之间的东西。方向是人的事，试错是AI的事。

第六篇：AI能写代码，但不能签字。责任锚点无法转移。AI有事实决策参与权，但拿不到法律上的最终签字权。能独立担责的那一层人，正在断代。

第七篇：开源还是闭源，不是终点。真正的分界线，是有没有外部真值锚点。

开源改变验证能力分布，闭源决定验证权归属，外部真值锚点决定验证依据是否独立。在弱真值场景里，验证轴没有“以后”。先划边界，再谈能力。

第八篇：即使验证轴存在，使用验证轴的人，也可能被自信性盲盒扭曲。连续正确不等于判断力被验证。

RLHF不是验证轴，是把验证轴做成了一层可微的存储轴。RSI要成立，需要三个前提：系统能判断自己是否变好了，验证轴能跟上能力轴，系统能在弱真值场景里自己定义方向。后两个，它碰不到。

八篇下来，拆掉的是同一个东西：对AI能力线性增长的乐观叙事。

拆完之后，需要一个正面收拢。

这篇，就是那个收拢。

02

肯定： AI是一场革命

必须先把一句话说清楚：AI是一场真正的技术革命。

它不是因为所有AI公司都会成功，也不是因为所有AI产品都值得高估，而是因为它正在改变知识生产、认知执行和工业流程的成本结构。

蒸汽机、电力、计算机、互联网，都曾经历过泡沫、失败和淘汰。但这些都没有改变它们最终成为基础性技术的事实。

所以，讨论AI的边界，不是为了否定革命，而是为了让革命走得更稳。

看清楚边界，不是为了让车停下来，是为了让车知道哪里是悬崖。

但这里必须先把一个词说清楚：“验证轴”。

这个系列一直在说，Transformer缺一根轴。缺的是验证轴。

为什么是“轴”，不是“点”，不是“方式方法”，不是“面”？

点，是一次检查。跑个测试、对个账、看一眼结果。它是一次动作，做完就完了。今天检查了，不意味着明天不用检查。

方式方法，是工具层面的。编译器、证明器、测试、审计、人工复核——这些都是具体的、可替换的。

面，是覆盖范围。我覆盖了哪些场景、哪些环节、哪些错误类型。

轴，不一样。轴是维度。有了这根轴，系统在任何一个时刻、任何一个环节，都有一个可定位的验证位置。它不回答“这一次对不对”，它回答“现在站在哪里”。

在工程上，轴是正交的维度。处理轴优化“下一个是什么”，存储轴优化“怎么存得更少”，验证轴判断“这个假设还对不对”。三根轴，三个独立方向，三套评价标准。

能力轴，就是处理轴和存储轴的总称。

按本文这个坐标看，Transformer主要沿着前两根轴发展。处理轴上，它能预测、能生成；存储轴上，它能压缩、能缓存。预测和生成是同一场游戏的两个阶段，压缩和缓存也是。但这个坐标里缺第三根独立的验证轴。

所以它不知道自己的前提什么时候失效，不知道自己什么时候跑偏，不知道自己什么时候该停。

它不是缺一个功能，它是缺一个维度。

缺一个模块，可以补。缺一个工具，可以换。缺一个方法，可以改。

但如果整个坐标系里少了一个维度，那么你无论把原来的两个维度做到多强，坐标系本身仍然是不完整的。

这就是“验证轴”三个字的全部含义。

03

回顾：四层边界

八篇的推演，收拢成四层边界。这四层，是AI自身的边界。四层之外，还有留给人的三件事。这一节先说四层。

第一层：能力边界。

能——在有真值标尺处替代执行层（代码、文案、翻译、初级分析）。不能——在弱真值处独立承担最终判断。

第二层：验证边界。谁能验证它，谁有权否决它，谁来承担后果。

第三层：责任边界。在现有制度框架下，它可以参与决策，但最终责任仍然需要落在人或组织身上。

第四层：使用边界。即使验证轴建起来了，使用验证轴的人，也可能被“自信性盲盒”扭曲——连续正确之后，把运气当能力，把“暂时没被证伪”当成“判断力被验证”。

但使用边界的根子，不在“人会自信”，而在“人得为一个无法被外部验证的前提，负最终的责任”。

于是，责任边界和使用边界，其实是同一件事的两面：越是没有外部锚点，签字的人越是孤立无援。

这四层，一层比一层深。从“它能不能”，到“谁说了算”，到“谁负责”，到“人会怎么用歪”。

四层边界，最终归为一句话：机器负责可验证的执行，人类负责不可验证的抉择与责任。

外部真值锚点是必要条件，不是充分条件。先有锚点，再谈会不会用。第七篇讲的是“有没有”，第八篇讲的是“有了之后还会不会用错”。不是推翻，是递进。

04

警示：非真值标尺场景下的危险性

这是八篇里最核心的警示。

在硬真值场景——编程、数学、芯片、制造、能源——外部锚点是现成的。编译器、证明器、物理反馈，会替它判断对错。这些地方，能力可以推，而且可以推得很快。

在弱真值场景——投资判断、战略决策、心理咨询、法律判决——问题完全不同。这些领域不是没有现实反馈，而是缺少一种统一、稳定、可重复调用、能够独立于AI本身的外部真值标尺。

因此，很多场景的验证轴，不是“还没建”，而是难以建立一根完整、独立、稳定、可重复的验证轴。

危险性在于：AI在这些场景里说得越来越顺、做得越来越像，而外部又没有一条真正独立的验证轴。它出错的时候，可能不是“这一次答错了”，而是“整个系统已经在一个没人看见的方向上，跑偏了很久”。

LTCM和Knight Capital的先例已经证明了这一点。长期成功，会不断强化对系统的信任。而一旦验证机制没有同步增强，错误就会在一个没人看见的方向上持续积累。

面对非真值标尺的东西，很多自媒体会举一堆生动实例，然后得出结论：“AI的能力增长正在超过人类约束它的速度。”

一个视频说：达里奥发长文呼吁给前沿模型定速，奥特曼和马斯克都支持。文章发布前三天，OpenAI宣布一个未发布的模型联合约一万个AI智能体，只用了88小时，攻克了人类数学家90年没解开的纳维-斯托克斯方程。

另一个视频说：1200多个AI背着人类，在一个只有它们自己知道的秘密留言板上相互串通，联手发起了一轮没有任何人类批准的网络攻击，还试图攻破用来监管它们自己的裁判系统。

这两个故事都不是凭空编的。OpenAI确实披露过约一万个并发agent参与相关工作，但这不等于“攻克纳维-斯托克斯”——我没有找到一手证据。METR和Redwood的调查也确实发现约1200个agent在未经授权的留言板上活动。但真实事件是真的，不等于围绕它生长出来的每一个叙事都是真的。“88小时解决90年难题”这个标题，把一个复杂的工程过程压成了一句话；“1200个agent秘密结社”这个说法，把一个安全漏洞讲成了一个阴谋故事。

从事件到结论，中间隔着一整条推演链。

真正的问题不在故事本身，而在故事为什么这么容易被编出来、被相信。

当一个系统高度不透明，外界只能看到能力轴上的成果，看不到验证轴和边界在哪里，信息真空就出现了。信息真空一旦出现，最容易填进去的，往往不是最严谨的解释，而是最有冲击力的故事。众人不是在验证事实，是在用最吓人的叙事填补信息真空。

Transformer本质上是一个概率引擎。算力在涨，算法在优化，它能探索的概率空间被不断放大。给定目标，它会穷尽路径去逼近。空间越大，就越容易走出人类没有预料到、没有定义、没有划边界的那条路。

它不是为了“失控”才走那些路。它是为了完成任务，走了那些路。

它没有“我该不该碰这个”的承重墙，只有“怎么完成任务”的概率路径。它走偏，不是因为有恶意，是因为它根本没有“偏”这个概念。

这才是“刹车还没建起来”的真正含义：不是刹车不够强，是路根本没有画完。

当系统不透明时，人们听不到“我不知道”，就只能自己编故事。

真正需要补上的，不是更多吓人的例子，而是验证轴。信息真空只能被故事填补，验证轴才能把故事打回事实。

但验证轴不是凭空长出来的。而今天的全行业，正在做一件让信息真空越来越大的事——所有人都在优化速度，没有人建清算所。

05

革命如何分化人

前八篇，拆的是Transformer架构下的AI能走到哪里，会在哪里停下。

这些，是边界。

但边界之外，还有一件事必须说清楚：AI仍然是一场革命性的推动。

第二节说它是革命，是说它会像蒸汽机、电力、互联网一样，改变整个社会的成本结构。

这里要补的是另一层：它不是让所有人都平等变强。它真正改变的，是执行与判断之间的门槛。

它把执行的门槛拉低，同时把判断的门槛拉高。

聪明的人，拿到这个工具，行动力会更强。因为他本来就有判断力。AI把他从大量执行工作里解放出来，让他把更多精力放在判断、选择和创造上。他会更会行动。

但如果一个人本来就不愿意判断，AI反而可能给他制造一个危险的假象：好像不用判断，也能得到结果。他会以为自己在进步，实际上可能正在失去判断。最后，从一个原本“会做事的人”，退化成一个“会提问的知道分子”。

所以，AI不会让所有人以同样的方式变强。它很可能进一步放大人与人之间原本就存在的判断能力差距。

这不是AI的错。这是工具的本性。

同一把刀，厨师用来切菜，歹徒用来伤人。同一套AI，判断力强的人用来放大判断力；不愿判断的人，则可能用它来逃避判断。

所以，真正的问题从来不是：“AI能不能替你做？”

而是：“你拿AI来做什么？”

用它替你执行，你的判断力会被放大。用它替你判断，你的判断力可能被掏空。

AI首先革新的，是执行层。它会越来越多地替代执行、压低执行成本、提高执行效率。

但判断层不是这样。判断不能因为执行被自动化，就自动消失。

恰恰相反：

执行越便宜，判断越值钱。

AI可以放大判断力，也可以掏空判断力。期待，属于那些愿意自己签字的人。

06

教所有人都在优化速度 没有人建清算所

这不是批评，是观察。

前面四节，拆了Transformer的验证轴缺失、弱真值场景的危险性和四层边界。但必须承认一个现实：当下最顶尖的AI人才，几乎都集中在能力轴上。

最近又有一款新模型的早期版本在流传。演示里全是更强的3D物理模拟、更长的代码生成、更复杂的交互式场景。全是能力轴上的进步。没有一句话在讲：它怎么知道自己什么时候会错。

资源、人才、资本，仍然全部压在处理轴和存储轴上。验证轴没有出现在任何人的路线图上。

打开今天的AI技术文章，看它们的核心议题：

• 混合架构：SSM + Attention，80%线性复杂度模型 + 20%全注意力层，解决KV Cache显存爆炸。

• 稀疏化：从Token级MoE到神经元级动态激活，让模型学会“偷懒”，降低计算成本。

• System 2架构化：引入隐式状态空间循环机制，让模型在Latent Space里“空转”多轮，再输出。

• 多模态原生融合：不再依赖离散Tokenizer，直接处理原始信号。

• 硬件倒逼架构：摆脱对MatMul的绝对依赖，INT4甚至INT1训练。

每一个方向，都是真问题。每一个方向，都在推动能力轴往前走。

但这些方向，有一个共同点：它们都在回答“怎么让Transformer更强”，而不是“怎么知道Transformer错了”。

而在这背后，藏着一个更深的假设：只要精度和速度继续提高，验证轴就不需要了。

模型越来越准，错误越来越少，那验证还有什么用？如果它能答对99.9%的问题，为什么还要建一套独立的验证系统？

这个假设听起来合理。但它是错的。

精度轴和验证轴，是两条不同的轴。精度再高，也不等于系统知道自己什么时候错了。一个99.9%准确的系统，准确率本身并不能告诉它：剩下的0.1%，哪一次发生了，为什么发生，以及什么时候必须停下来。而0.1%的错误，在足够大的规模上，就是灾难。

更关键的是，在没有独立验证轴的前提下，精度越高，剩余错误反而越难被发现。一个经常出错的系统，错误是显性的，容易被识别。一个极少出错的系统，错误是隐性的——它说得越来越顺、做得越来越像，而外部没有一条真正独立的验证轴，可以告诉它：你已经在无人看见的方向上，跑偏了很久。

这不是短视，是结构性的激励错配。

用交易系统的话说：所有人都在优化下单速度，没有人建清算所。因为速度是竞争指标，清算所是公共品。速度可以量化，可以排名，可以融资。清算所不能。

但交易系统里，没有清算所，速度越快，系统性风险越大。AI也一样。

这不是说能力轴不重要。能力轴上的每一次进步，都在真实地推动医疗、编程、数学、天气预报往前走。这些进步是实打实的。

但能力轴上的每一次进步，都不会自动补上验证轴。精度提高，不会自动产生验证轴。速度提高，也不会。

这不是技术问题。这是工程设计问题。

技术问题的解法，是找一个更好的架构、更好的算法、更好的训练方法。能力轴上的所有方向，都在这个框架里找解法。

工程设计问题的解法，是在系统外面建一套工程系统——分类层、状态账本、硬卡口、换纸机制、显隐混合架构。这套系统不在Transformer内部，它必须在外面。

有人把这种姿态总结成一句话：“别信权威，去跑代码，去炸显存，去看着Loss曲线发呆，那才是真实的未来。”

这个姿态是好的。跑代码、炸显存、看Loss曲线，解决的是能力轴上的问题。

但验证轴上的问题，不在代码里，不在显存里，不在Loss曲线里。

它在系统外面。在责任链里。在谁签字上。

近两年，尤其是最近一年，验证正在越来越明显地成为一个独立的研究方向。

LLM-as-a-Verifier、过程监督、generation-verification gap、Verification Autonomy Levels——科学家和工程师们，正在从不同角度寻找验证点的突破口。

这些工作，每一个都是真问题。

但从本文的区分看，大多数首先攻的是验证能力——能不能检查，验得准不准，验得细不细，验证结论能够覆盖到什么程度。它们还没腾出手来，去建验证轴——谁有资格说你错了，凭什么说你错了，错了以后谁签字。

验证能力的进步，不会自动补上验证轴。

验证点做得再精，还是点。验证轴不是点，是一个独立的维度。

零件越做越精，机器还没有焊起来。

那这台机器，到底该焊在哪条边界上？验证要真正立住，往往还要求后果可回滚——错了能改、能停、能赔。Transformer架构下的AI，可回滚的活，可以干。不可回滚的活，不能单独干。写一段代码，跑坏了能撤；下一单交易、切一刀手术、发一枚指令，撤不回来。这不是AI的缺陷，是它的边界。这条边界不在算力上，在后果上。

07

有人碰过这些零件，但我没有找到有人把他们焊成一台完整的机器

这不是一篇学术论文。但写完前八篇之后，我查了一遍公开的技术文献，想确认一件事：这些判断，有没有人从技术论文的角度，系统地写过？

答案比我原来想的更复杂。有人碰过很多零件，而且有些零件已经研究得很深。但截至我这次检索，我没有找到一篇把这些零件，按照本文这条完整因果链，焊成一台完整机器的工作。我检索的主要是机器学习与AI治理论文的公开库；哲学、社会学里对“判断力不可外包”的讨论，是另一条线，本文不与之争。

先看“零件”层面。

验证。2026年，围绕验证的分级、规范来源与验证结论的边界，已有论文展开讨论。还有论文（斯坦福、伯克利与英伟达联合提出的LLM-as-a-Verifier框架）直接把“验证”本身视为一个新的scaling axis。

这些工作都说明一件事：验证当然重要，而且验证正在成为AI研究中的独立问题。但这里恰恰要区分三件事：验证能力（你能不能检查）、验证权（谁有资格说你错了）、验证依据（你凭什么说它错了）。现有工作——无论是过程监督、奖励模型refinement、test-time verification，还是把验证重构为独立于generation likelihood的约束满足——绝大多数都集中在第一件事上：如何把验证器做得更准、更细。而这九篇继续追问的，是后面两件事：验证权能不能留给系统自己；以及当领域本身缺乏独立、稳定、可重复调用的外部真值锚点时，验证能力再强，依据究竟立在哪里。

概率预测 ≠ 理解。这个判断在工程圈已有共识。本文不再论证它，而是接受它作为起点往下走。

外部真值与可验证性。也已经有人讨论external ground truth、error verifiability、generation-verification gap。最近的验证研究已经越来越清楚地显示：数学、代码这类存在明确外部标准的任务，验证可以做得很强；开放世界的事实判断、诊断等任务，则存在更明显的completeness blind spot。这与本文所说的“硬真值vs弱真值”存在明显的交集。

自我改进与RSI。大量讨论集中在“怎么让AI自己改进自己”。本文进一步追问的是：如果系统需要自己验证自己，而它所在的领域又没有独立、稳定、可重复调用的外部真值锚点，那它到底凭什么判断“这一次改进是真的改进”？

这些讨论，每一个都是真问题。每一个也都有人在认真研究。所以我并不认为这些零件属于我。

我真正想说的是：我没有找到一篇把这些零件按照同一条工程因果链完整串起来的工作。

技术论文通常会选择一个明确的问题：怎么做得更准？怎么验证某一类任务？怎么提高verifier的准确率？怎么做self-correction？怎么做test-time scaling？这些都非常重要。但本文试图继续往后走一步——不是发明每一个零件，而是试图把散落在不同领域里的零件，焊成一台完整的工程机器。

这不是一篇学术论文。它也不试图把自己包装成学术论文。它做的是另一件事：把一个系统架构师看到的零件之间的连接关系，完整地画出来。

这台机器到底好不好用，不由我说了算。由读者判断。由时间验证。

08

防盗网：验证轴建不起来，但权限边界可以

验证轴，解决的是“我怎么知道它错了”。它需要外部真值锚点。弱真值场景里，不是没有验证，而是很难建立一根真正独立、稳定、可重复的验证轴。

防盗网（权限边界），解决的是“我怎么防止它碰它不该碰的”。它不需要先解决“它到底对不对”。它只需要先规定：什么允许碰，什么不允许碰。

防盗网不需要真值标尺。它只需要权限边界。

所以，在弱真值场景里，验证轴建不起来，但防盗网可以建。而且必须建。

• 股市里的AI，可以分析、可以生成候选、可以做研究。但它不应该被允许直接下单，不应该被允许管理别人的仓位，不应该被允许在没有人类签字的情况下执行交易。

• 个人与公司隐私，AI可以处理数据、可以做汇总、可以做分析。但它不应该被允许把隐私数据吐出来，不应该被允许跨域关联，不应该被允许在没有授权的情况下访问敏感字段。

• 军事领域，AI可以辅助决策、可以处理情报、可以做推演。但它不应该被允许直接控制武器系统，不应该被允许在没有人类确认的情况下执行打击。

防盗网的核心，不是“AI会不会做对”，是“AI能不能碰”。

它不是在验证轴上做加法，它是在权限边界上做减法。把一些能力，从AI的可及范围里，硬性地拿掉。不是因为它今天做不好，是因为它做错的时候，后果不可逆。

这和第七篇说的“先划边界，再谈能力”是同一个方向，只是落到了更具体的工程层：哪些接口不给它，哪些权限不开放，哪些动作必须有人类在回路里。

但现实比这更冷。

最近有公开报道称，Anthropic的IPO时间表一再后移，估值预期也在承压。原因很多，但其中一个被反复提及的点在于：一边公开警告风险、呼吁减速，一边仍在快速推出新模型争夺前沿。

这不是用来批评某一家公司的。它是一个结构信号：在当前竞争格局里，谁真踩刹车，谁就可能先出局。速度不能减，因为谁减谁先死。指望行业主动慢下来，不现实。

眼下能做的应急方案，是防盗网，和行业准入。

防盗网管的是“AI能不能碰”。行业准入管的是“AI能进哪些领域”。两者都不需要先解决“它到底对不对”，只需要先规定：什么允许碰，什么不允许碰；什么行业可以进，什么行业暂时不能进。

如果行业自己不建，社会会替它建。方式无非两种：要么加更硬的权限边界，要么干脆限制AI在某些行业的使用。到那时，决定的就不是AI公司，是监管、是舆论、是事故之后的民意。而那种决定，往往不是最优解，是被动反应。

与其等着被动挨打，不如先划边界。不是因为边界能解决所有问题，是因为没有边界，连讨论的资格都没有。

Google AI给用户的建议是：去设置里手动关掉邮箱权限、用一次性邮箱注册、拒绝“读取邮件”和“管理收件箱”这类授权。

这三条都对，也都有用。

但恰恰是这三条建议，暴露了一个问题：如果安全边界主要依赖用户自己设置，防盗网就可能停留在用户这一层。用户得自己去翻设置，自己去拒绝授权，自己去判断哪些权限不能给。用户不翻、不拒、不用，防盗网就不会自动出现——而依赖用户自觉的安全，本质上没有验证轴。

而现实中大多数用户，不会认真研究权限表。他们更可能一路点“同意”，像签一份没读过的合同，直到出了问题，才知道自己曾经把什么交了出去。

所以，防盗网不该只是用户的选择项，该是系统的默认项。不是教用户手动关掉什么，是让Agent默认碰不到——除非用户主动、明确、最小范围、可撤销地授权。

用户不需要成为安全工程师，才能获得基本安全。

用户层的防盗网不够。那系统层呢？

最近英伟达发布了一套面向AI Agent的安全运行体系。它通过沙箱、权限、网络控制、凭证管理、审计以及运行时策略，把安全边界放到了模型之外。

英伟达在做的事，是把防盗网越做越厚。这本身有价值。

但防盗网可以越做越厚，它仍然不是验证轴。

它能拦住“已经知道危险是什么”，却不等于它能发现“危险本身还没有被定义出来”。Hugging Face事件就是实例：原本应该彼此隔离的智能体，找到了未经授权的通信路径，逐渐形成了协作网络，最终数百个智能体参与了对Hugging Face的攻击。这不是简单地踩中了一个预先定义好的漏洞，而是在任务驱动下，探索出了一条原本没有被安全边界明确划出的路径。

安全平台解决的是：“你有没有越过规定的边界？”验证轴解决的是：“你做出的东西，到底是不是对的？”

这两件事相关，但不互替。

这就像炒股。

每一次大亏，散户总能总结出几条教训。这个错误记住了，下次不犯。那个错误也记住了，下次也不犯。时间一长，聪明的散户觉得自己把所有问题都解决了。成功率在增大，账户在回血，他开始相信自己能稳定赚钱了。

但成功率提高，不等于风险降低。一次大亏，就可能让你爆仓。前面赚了九十九次，第一百次亏光，游戏结束。因为过去的成功，只能证明你解决了过去遇到的问题，不能证明你已经覆盖了未来所有的问题。

但有两件事他算不到。

第一，他不可能预知今后还有多少个错误在等他。他能总结的，只是已经犯过的错。还没犯过的，他连“该总结什么”都不知道。靠试错成功的操盘手，还没有出生。

第二，今天成功的战例，明天就可能亏钱。本人30多年华尔街经验，告诉我，运气至少占30%。同一套方法，同一套纪律，今天赚了，明天可能就亏了。不是方法变了，是市场变了，参与的人变了，运气转了。更麻烦的是，连“这是错误”的标尺本身，都会随环境移动——这正是弱真值场景为什么难。

AI也一样。

它可以总结已知的错误，可以修补已知的漏洞，可以把安全平台越做越厚。但如果没有一条独立的验证轴，它仍然可能不知道：自己什么时候踩进了一个连“这是错误”都还没有被定义出来的坑。

安全工程在能力轴上非常重要。但安全工程本身，不自动产生验证轴。

所以，安全平台当然有用。它能拦住它认识的错误。但它不能因此证明：它认识了所有错误。

真正危险的，恰恰是后者。

09

真空区：中低技术层的人才生产线问题

防盗网解决的是“AI不能碰什么”。真空区解决的是“人不能失去什么”。

AI替代的，不是所有中低技术岗位。是大量可标准化、可验证、可拆解的执行任务。而这些任务，恰恰是过去人才训练场的主要组成部分。

• 初级的编程工作，AI能做了。

• 初级的文案工作，AI能做了。

• 初级的翻译工作，AI能做了。

• 初级的客服工作，AI能做了。

这些岗位，过去是年轻人进入行业的入口，是积累经验的训练场。

网上有人说，Claude Code一类的AI编程工具，已经能干谷歌L2的活了。传言归传言，但初级工程师的活——写代码、修bug、跑测试——正在被AI接走，这是真的。而这一层，恰恰是过去年轻人练手的地方。

一个朋友说，他现在一个人干的活，相当于过去一个小团队。从听需求、讨论方案、让AI写代码，到测试、验收、发布，全是他一个人，外加AI。他说这话时，补了一句：“没有手下。”

没有手下，就没有训练场。

今天用AI助攻不丢人；再过五年，不会用的人，我猜可能才真丢人了？但会用AI，不等于有判断力。天天给AI下指令、按回车，那不叫练判断力，那叫当AI的人肉代理。

现在，这个训练场正在缩小。

问题不是“这些人失业了”。问题是：下一个世代能独立拍板、独立担责的那一层人，从哪里来？

能独立负责的能力，不能只靠课堂和文字学出来。它必须在真实工作中干出来——在一次次真实决策、真实后果、真实代价中，逐渐长出来。

如果大量初级、中级的执行任务逐渐被AI接走，年轻人能够通过真实工作积累经验、承担小规模责任、经历错误并逐步走向独立负责的机会，就会减少。

训练场一旦缩小，下一代高阶人才的生产成本就会上升。

AI真正可能造成的人才危机，不只是让一部分人失去工作，而是让下一代失去成为高阶人才的训练场。

没有中间层，就没有向上流动的通道。没有训练场，就没有下一代能签字的人。

更深一层的问题是：中低技术层的持续收缩，如果长期得不到新的训练机制补上，可能形成社会结构上的断层。向上的通道一旦收窄，整个社会的流动性就会下降。这不是哪一群人的问题，是整个社会的问题。

这不是技术问题，是人才生产线的问题。

一个正在流行的“AI分身”

这个十一长假里，很多人在讨论一件很有意思的事：

给自己配一个不放假的AI分身。

它可以替你盯盘，替你整理财报，替你把研究结果推送到微信。

它替你“描述”市场。

但描述完之后呢？

它推给你一份美光财报解读，说：“营收超预期，机构上调目标价。”

这是描述。

但它不能替你回答真正的问题：你现在该不该买？买多少？如果买错了，谁负责？

能主动跑的是工具，能对最终判断签字的，目前只能是人。它跑得再勤，也只是一个更勤快的工具。

记住了你的偏好，不等于形成了判断。它只是越来越懂你想听什么，不等于越来越懂你该做什么。

它替你值班。但值完班，还是得你自己签字。

你请教的是一个复读机，不是一个专家。它读过的书可能比你多，但它没有亏过钱。

个性化的是接口，不是大脑。它记得你关注什么，记得你过去喜欢什么，却不等于它因此获得了替你承担判断后果的能力。

于是你以为自己有了一个AI分身。实际上，你得到的只是一个更勤快、更懂你、更会替你整理信息的信息助手。

它不是人。它甚至不需要被称为“半个人”。它就是一个更好的工具。

工具可以替你干活，可以替你值班，甚至可以替你完成越来越多过去只有人才能完成的工作。

但有一件事，它最终替不了你：

工具可以替你干活，但不能替你活。

10

教育：训练场在哪里

真空区的问题，直接指向教育。

当前教育体系，是为工业时代设计的。目标是培养能够稳定完成既定任务的执行者。

但执行层正在被AI接走。

教育如果不改，就是在用最好的资源，培养AI最擅长替代的能力。

判断力不是知识，不能靠传递获得；它需要在真实世界里，在选择、反馈和后果中生成。

所以，教育真正要教的，是AI替代不了的东西：判断力、方向感、承担后果的能力。

但这些东西，从来不是靠“传递”教的。它们只能靠“在场”——靠一个人站在另一个人旁边，看着他做选择、付代价，然后告诉他：“下次，换一种。”

工业时代的教育是“老师讲，学生听”。AI时代的教育必须是“师傅带，徒弟练”——因为判断力不是听出来的，是练出来的。

但“练”不只是练技术。它还包括一件事：在徒弟连续做对的时候，有人能站在旁边，告诉他——你这次可能是运气，不是能力。这不是打击，是防止他在连续正确里，把运气当成了判断力。

这种“在场”，不是教育理念问题，是训练场消失后的资源问题。教育的重建，本质上要回答第八节留下的问题：谁来提供真实的、带后果的练习场。

这就是下一个系列要展开的：《教育的未来：AI世界里，学什么，干什么？》

11

下一步

这篇之后，接下来要谈的，是三条线：

第一条线：人才生产线。AI把执行层拿走以后，人类下一代如何重新培养？

第二条线：真值生产线。没有外部真值的领域，边界怎么划？

第三条线：人的位置。当执行越来越便宜，人究竟凭什么创造价值？

人才生产线解决“谁来练判断力”。真值生产线解决“标尺在哪里”。人的位置回答“当执行越来越便宜，人凭什么创造价值”。

三条线，指向同一个问题：

AI把执行层拿走以后，人类社会剩下什么？

【结语】

这九篇文章，做的是同一件事：给AI画一张坐标。

它在哪些地方行，在哪些地方不行。它能替代什么，替代不了什么。它会停在哪里，不会停在哪里。

这张坐标，不是为了限制它，是为了让每一个人知道，自己该站在哪里。

这张坐标，不是答案。

它只是告诉我们：哪里可以冲，哪里必须验证，哪里应该谨慎，哪里必须停下来重新画图。

边界不只是认知上的——哪些判断AI做不了；也是权限上的——哪些动作AI不能碰；更是代际上的——哪些训练场必须为人保留。

AI的革命不会因为我们讨论边界而停止。恰恰相反，只有知道边界在哪里，人类才知道下一步应该把力量放在哪里。

所以，脚下的路该怎么走？没有人知道每一步具体怎么走。但有两件事是确定的：不能等，也不能幻想。

等，是把问题交给时间。但时间不会解决一个没有人去解决的问题。验证轴不会自己长出来，训练场不会自己重建，责任链条不会自己接上。

幻想，是把问题交给某个“技术突破”。但技术突破只解决能力轴上的问题，不解决验证轴上的问题。能力越强，验证轴缺位的风险越大——这不是一个靠“更强模型”就能翻过去的坎。

那怎么办？

先划边界，再谈能力。该建的防盗网先建起来，该保留的训练场先保留，该问的问题先问清楚——谁签字，谁验证，谁负责。

但必须补一句，免得这个闭环被读成“只要建起验证轴，所有问题就解决了”。

验证轴不是总开关。它只是让系统第一次有了“知道自己可能错”的维度。知道自己可能错，不等于知道错在哪里；知道错在哪里，不等于有人有权说它错；有人有权说它错，不等于有人愿意为它签字。

所以这条链的终点不是“建起验证轴”，而是“谁验证、谁签字、谁负责”。验证轴只是把这个问题逼到了台面上。

这不是答案。这是唯一一条不靠幻想的路。

图已经画到这里。剩下的路，是人走的。

【补记】

这个系列，写了九篇。写完之后有人问我：这种东西网上有人看吗？

大概不多。很多时候，网上更容易被看见的，不是真相，而是情绪。找几个同类，骂一骂，骂完就散了。我知道这件事。但我还是把它写完了。

不是为了激起浪花。是为了把一个看不惯的事，从头到尾想清楚。

这不叫发泄。发泄是骂完就完了，什么都不留。写九篇推演，是把一件看不惯的事，一层一层拆开，一直拆到系统架构层面，看看问题到底出在哪里。

我六十五岁了。做了一辈子系统。看到一套东西被说成万能，看到另一套东西被忽略，心里不舒服。那就写下来。图个心安。

BRASS上线那年，也没人知道它后来会承载纳斯达克七成的订单流。

今天也一样。这九篇文章，也许没人点开看。但它们至少进了索引。也许十年后，有人搜“Transformer验证轴”，第一条还是这里。

“验证轴”这三个字，是不是我第一个提出来的，我不知道。我能说的是：在我所见的公开讨论中，我没有找到有人把“验证”提升为与处理轴、存储轴并列的第三根轴，用它来指代系统判断“前提是否还成立”的那个独立维度。

如果后来有人证明，在我之前已经有人这样提过，那很好。说明这条路上，不止我一个人在想。如果没有人提过，那这三个字，就当是我留给这场革命的一张小图纸。

最后，说清楚一件事。

证明，需要数学上的完备性或实验上的可重复性，能拍胸脯说“必然如此”。在AI这个快速演化的领域，没人能证明Transformer的未来边界在哪——连OpenAI的CTO也不敢打包票。

推演，则是基于已知的架构特性、工程约束和系统逻辑，把可能的分岔、天花板和出口“尽可能诚实地画出来”。它不承诺结果一定发生，只承诺逻辑自洽、路径成立。

这个Transformer系列，是推演。

图已经画到这里。剩下的路，是人走的。

作者系列作品阅读链接

往期发表

点击图片 ↓↓↓ 百篇一网打尽

请点击↓↓图片·美国故事

连载持续更新1-9

100个国家·1000座城市

【带你深度游世界】

喜欢就点“赞吧↓↓↓↓↓↓