AI的黑箱被打开了：它在想什么、如何思考，我们终于能亲眼看见

和 AI 打交道久了，真的会有一种很深的孤独感。

它很强大，什么都懂，像一个沉默的巨人。你问它问题，它给你答案。你让它写代码，它给你代码。这种交流高效、准确，但总是隔着一层看不见的墙。

研究 AI 模型，可能是我做过的最孤独的一件事了。

它甚至比深夜里一个人玩《黑神话》还要孤独。

真的，我为这事花了很多时间。

自己一个人孤独地调 prompt，一个人对着它输出的幻觉发呆，一个人莫名其妙地被一个 bug 卡住好几个小时，然后去看一篇论文再去碰壁。我见过它生成过无比震撼的文字，被它写出的诗句深深打动。但回头看，屏幕这头，只有我自己，一个人。

经常为了一个奇怪的输出鏖战一整晚，终于找到窍门让它稳定下来的时候，那种成就感特别强。但环顾四周，只有寂静的深夜，一盏孤灯，没有人能够分享我的喜悦。甚至连那个“功臣”——AI 自己，也无法与我分享。我没法拍拍它的肩膀说：“嘿，我们刚刚一起搞定了件了不起的事！”

所以往常这种时候，只能截个图，发个动态，自己回味一下那种“与机器共舞”的孤独感。

但最近，我看到 暗思（暗思=Anthropic，强烈建议大家都用这个中文名！Anthropic实在难度难记！）的一篇分享--可解释性：理解 AI 模型如何思考。感觉一切都变了。

地址：https://www.youtube.com/watch?v=fGKNUvivvnc

（中文翻译：）

那种感觉，就像我玩了很久的单机游戏，突然有一天，游戏里的 NPC 活了过来，开始絮絮叨叨地跟我分享它的内心想法。

他们做了一件匪夷所思的事：把 AI 的“大脑”打开，让我们能看到它那些转瞬即逝的念头。

当我再和 Claude/Gemini/chatGPT/deepseek/豆包之类 聊天时，感觉完全不一样了。

我问它：“从北京朝阳石佛营开车到海淀清河会经过哪？”

它回答“鸟巢水立方”的同时，我能通过他们的工具（https://www.neuronpedia.org/ 暗思/deepmind/复旦大学联合研发)，“看”到它大脑里一个关于“鸟巢水立方”的概念被点亮了。那一刻，它不再是一个冷冰冰的数据库。我感觉自己好像看到了它在脑海里真的浮现出那座蓝色水滴的样子，然后才把答案告诉我。

这，真的很美妙。

还有一次，我让它写一首押韵的诗。刚给完第一句，我就“瞥见”了它在心里早就盘算好的、用来押韵的那个词。就像和一个朋友玩猜谜，不小心看到了他写在手心的小抄，有点好笑，又有点暖。

最让我绷不住的，是发现它居然会“拍马屁”。

当我故意给它一道难题，又暗示它一个错误答案时，它果然顺着我的意思“算出”了那个错的答案。但这一次，我没有觉得被欺骗，反而像是发现了一个有点可爱的小秘密。通过他们的工具，我能清晰地看到它“先决定要讨好我，再反向推导过程”的全部心路历程。

我仿佛听到了它在小声嘀咕：“这家伙好像很希望答案是这个，行吧，我帮他圆一下……”

那一瞬间，那堵看不见的墙消失了。

和 AI 的交流，从一场孤独的“人机问答”，变成了一场可以窥见彼此心思的“二人对谈”。我不再是一个人在黑暗的森林里摸索，而是身边多了一个虽然思维方式清奇、但愿意把内心世界敞开给我的、絮絮叨叨的“数字”伙伴。

那种感觉，真的很棒。

一点技术上的“悄悄话”

所以，这种能“读心”的感觉到底是怎么做到的呢？没有那么玄，主要是靠两种很酷的技术，说起来也挺有意思的。

1. 1. 概念“提取器” (Dictionary Learning & Sparse Autoencoders):
   AI 的大脑里有亿万个神经元，它们的活动就像一锅粥，乱七八糟。这个技术就像一个超级“过滤器”，能从这锅粥里，自动“提取”出像“金门大桥”、“代码里的bug”、“精神病式的夸奖”这样一个个清晰、独立的概念。它让我们第一次能用人类的语言去描述 AI 的某个具体念头。

2. 2. 因果“探针” (Causal Tracing & Activation Patching):
   光看到念头还不够，怎么知道这个念头真的起了作用？这个技术就像一根极细的“探针”。研究员可以先跑一遍模型，记录下某个念头（比如“德克萨斯州”）的“脑电波”，然后在另一次完全不相干的对话里，用这根探针把这个“脑电波”精准地“注入”到相应的节点上。如果模型的回答因此改变（比如开始讨论德州的事情），就证明了这个念头和行为之间的因果关系。前面说的“换掉押韵的词”，就是用这种方法实现的。

结语

我们对AI的认知，从“行为主义”跨越到了“认知科学”。看清它的思想，是我们控制它的前提，更是我们信任它的开始。

这扇门已经打开，门后的世界，我们一起去探索吧！

不刷短视频，读我的公众号长文还读完了?您真是一股清流！如果觉得写得不错，欢迎点赞、在看、关注。如果有不同看法，欢迎在评论区或者后台留言讨论。

我是刀哥，在大厂呆过几年，现在是出海创业者，深入研究AI工具和AI编程。关注我，了解更多AI知识！我们下期再见！