北京
先问一个问题：你上一次让模型"再想想"，它真的想出了新东西吗？
有一篇关于量子电路设计的论文，八个任务里有七个，靠大模型驱动的搜索打败了此前的最好成绩。论文讲的是量子电路，但真正让人反复琢磨的，是它把算力花在了哪里。
它没有让模型"想得更用力"。它让模型大量地提方案，然后把真正的预算花在挑选上。模型是那个循环里便宜的部分，搜索才是昂贵的部分，而胜利就藏在那里。
再看大多数代理栈怎么花token，你会发现正好相反。一条思维链，被拉得很长。更多的"仔细推理"。更大的上下文窗口。全是深度，没有广度。深度是你在没办法生成备选方案时才会买的东西——当你唯一的动作就是把那一个答案改得更好。
真正该盯的数字：N次命中率
N个候选里，至少有一个能过线的概率是多少？
如果这条曲线随着N增大而变平，说明你的采样器坏了。你花八倍的钱，买到的是同一个答案的八份拷贝。如果曲线往上爬，说明广度在干真活，你应该继续推高N，直到曲线拐弯。那个拐点就是你的预算线，而且每个任务都不一样。我从来没猜对过，只能测出来。
多样性是这里的全部。同一个提示词、温度0.2跑八次，那是一个样本加了点多余步骤。比起调温度，换框架更管用——同一个问题，当成约束问题问一遍，当成搜索问题问一遍，再问"什么会让它崩掉"。不同的拆解方式会产生真正不同的候选。对同一个提示词做轻微扰动，只会产生一堆兄弟姐妹。
为什么没人这么干
主要是延迟。扇出感觉上更慢，即使实际并不慢——如果你的服务商允许，八个并行调用差不多在一个调用的时间里跑完。然后是成本核算：按token计费让8倍看起来就是8倍，没人愿意去解释这笔账。还有应用的心智模型是一请求一响应，扇出把它打破了，你的日志从一条线变成了一棵树。
这些都是真实的摩擦。但没有一条能说明这个技术不成立。
它在哪里会崩？工具调用。
如果一个候选是一条完整的代理轨迹，N个候选就意味着N套副作用。N次写入、N封邮件、N次刷别人的卡。采样对文本几乎免费，对动作却很贵，一旦你的候选开始触碰真实世界，广度就不再是那条便宜的轴了。
这指向一个形态：把执行阶段保持单线程，把广度放在上游，放在只产生文本的那部分。广泛提议，只执行一次。昂贵、不可逆的那一步只给一次机会；便宜、可逆的那一步，你能负担多少次就给多少次。
从这篇论文里该拿走的，不是"模型现在更懂物理了"。那个有意思的主张更窄，也更有用：当候选的生成和筛选都很便宜时，赢的动作是停止追求把一个答案做对，转而追求快速拿到一百个答案。
这没有听起来那么聪明。但它也是我一直在把自己的循环往那个方向推的原因，而且它比那个聪明版本更经常奏效。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
