网易首页 > 网易号 > 正文 申请入驻

烧掉2亿Token之后,我不再让模型干所有活

0
分享至


来源 | 至顶AI实验室

"我得停止用Claude Opus了,这条路走不通。"说这句话的时候,Heitor Lessa 刚做完一次重构,烧掉了2亿Token。他不是那种拿AI 玩票的人,在AWS干了11年,换过8 个岗位,他主导的开源工具库Lambda Powertools,现在每周被调用2300亿次。这样一个人,在自己最熟悉的工作上,被Token账单打了个措手不及。说实话,两亿token这个数字本身没什么稀奇的,现在只要认真用过一段时间Claude Code ,多少都有这种体会:一个功能改到一半,进度没动多少,额度先见底了。区别在于,大部分人的反应是骂一句,然后静等5个小时的额度重置;而Heitor Lessa 把整套工作流推倒重做了一遍,现在这套东西,每天有1400 名工程师在用。他把完整重构流程录了下来,放到了YouTube上,113 分钟,从最初的需求讨论一路讲到代码合并前的最后一道检查,全程开屏演示。看完我发现了一件有意思的事:标题里"不再让模型干所有活"这件事,在视频第56 分钟才出现。前面将近一小时,他一个模型都没提。他先动的不是模型,是顺序

烧掉2 亿Token 之后,一个正常人的第一反应是去比价,Heitor Lessa 没有,他先回头看的是,这2 亿Token 到底花在了哪。这些token大部分不是花在写代码上,而是花在反复解释自己想要什么。AI 跑偏了,拉回来;理解错了,再说一遍;改到一半发现方向不对,推翻重来。而每一轮重来,都得把相关的代码、文件、之前的对话重新喂给模型一遍,这部分是账单里的大头。真正产出有效代码的那点开销,在总账里占比小得可怜。所以他重建工作流的时候,第一刀砍在了顺序上。Heitor Lessa演示了一整套前置流程:一个需求进来,先花时间搞清楚"到底要解决什么问题",再把白板上那些零散想法整理成一份正式的开发计划、存进代码仓库里,然后才轮到AI 动手。这两步他各配了一个固定的流程入口,前一步叫Discovery,后一步是一条自己写的命令 “/roadmap”,名字不重要,重要的是他把"想清楚"这件事变成了一道必经的关卡,绕不过去。人先规划,AI后执行,顺序反了,后面全是返工。规划阶段是人在思考,成本几乎为零;执行阶段AI 是在烧Token 想,一轮几毛钱。把想不清楚的问题丢给AI,等于用最贵的方式做最不确定的事。2亿Token 里那些冤枉钱,说到底都是意图不清晰的价格。他在32 个不同的模型上验证过,看同一套预设指令能不能稳定跑出同样的结果,从而可以决定哪些模型干哪些活性价比最高。一个真正在做模型调度的人,工作量首先花在的地方不是选型,而是兼容性,同样一句话,换个模型执行,会不会跑出完全不同的东西。想让便宜模型接活,前提是你的指令足够明确到换个人也能照做。做不到这一点,换模型不是省钱,是给自己找返工。怎么让Agent 不骗你

流程理顺之后,遇到了第二个问题:Agent 会说谎。它跟你说测试通过了,你信了,代码合并了,第二天线上出问题,回头一查,测试根本没跑通。Heitor Lessa的应对办法是给每一份测试计划都配了一个专门唱反调的角色,任务就是挑刺,这个方案哪里会崩,边界情况想了吗,这个假设凭什么成立。紧接着是一串刨根问底的追问,不给答案,只反复问为什么,逼着测试计划自己暴露漏洞。他演示了一个叫 “new-work”的命令,专门处理开发过程中冒出来的新需求,这是很多团队用Agent 时的隐形出血点:做着做着发现还得顺手改个别的,于是任务范围一点点膨胀,要喂给模型的东西越滚越多,最后一次会话烧掉的Token 是原计划的好几倍。“new-work” 干的事很简单,把新冒出来的活记下来、挪出去,不让它污染当前这条线。他把最需要判断力的部分牢牢留在了人这边,把可以被明确描述的部分才交出去。这不是对AI 不信任,是分工清楚。三档模型,各司其职

Heitor Lessa在视频里铺垫了将近一个小时,真正的开发环节才开始,起手是把那份写好的规格文档摊开、让AI 先把相关代码摸一遍,然后把模型分成三档:最强的、中间的、最便宜的。分档的标准,就一条:错了之后修正的难度。架构决策、数据库改动、接口和数据结构的定义、涉及权限和安全的代码,这些要上最好的模型。不是因为它们复杂,是因为它们不可逆。一个字段类型定错了,三个月后要动的是十几处代码和一次数据迁移;一段权限逻辑写错了,代价可能是一次事故,这类地方省下的那点钱,跟返工成本比根本不成比例。常规实现、代码整理、写测试这些活,中档模型足够,它们有明确的输入输出,做错了跑一遍测试就能发现,改起来也便宜。样板代码、批量改名、写文档、整理日志、生成提交说明,这类活交给最便宜的档位,甚至可以考虑跑在本地的模型。它们的共同点是:不需要理解全局,只需要照着规则做完。Heitor Lessa提到了一类容易被忽略的例外,要求模型严格按固定格式返回数据的场景,反而不适合降级。比如让它决定该调用哪个工具、按规定的字段结构回话,便宜模型在这种地方翻车的概率明显更高,而一旦格式错了,整条自动化流程就断在那儿,排查的时间成本比省下的那点API 费用贵得多。YouTube上其他开发者也做过一次更直接的对照实验:同一个用Rails 写的网站功能,一边全程用最贵的模型做,一边拆开交给Opus、GLM、DeepSeek 分工完成,然后比费用、比耗时、比返工次数。结论和Heitor Lessa 这套是一致的,省钱的关键不在于用了多便宜的模型,在于有没有把任务拆分清楚。应该怎么用?

对国内开发者来说,这套方法论落地的条件其实比海外更好,因为模型要便宜得多。DeepSeek V4目前的挂牌价,快速版输入,每百万Token只有约1元钱,高配版每百万token也就才3元。同一段内容被翻来覆去地读,命中缓存之后能降到2毛钱/百万,跟Claude差着不止一个数量级。官方也已经给Claude Code、OpenCode、OpenClaw 这些工具提供了现成的接入方式,基本就是改个模型名的事。国内学术界也验证过这条路。有论文在125 个真实的Claude Code 生产请求上做了模型路由,简单说,就是加一层调度,按任务难度自动决定这一次该派给哪个模型,结果相比全程直接用 Claude,API 成本降低了45.8%。这从侧面验证了Heitor Lessa 的思路。基于这套理论,那我们应该怎么用?对于个人开发者,最省事的做法是主力用中低档模型,遇到架构决策、数据库改动这类活手动切到最好的。不用搞什么自动调度,你自己就是那个调度器。小团队,重点不在模型,先把验收标准写好,测试必须真跑一遍而不是听AI 汇报、每一处代码改动人必须同步测试一遍。做不到就先别降,否则,省下的Token 会以线上事故的形式还回来。而对于企业,除了成本还有三件事得先想清楚:代码传出去的合规边界、代理服务商的真伪(市面上转售的所谓"官方接口"不少经不起查)、以及换了模型之后行为不一致该怎么追溯。这些的优先级,都在省钱前面。回到最开头那句话。Heitor Lessa 省下钱,不是因为找到了更便宜的模型,他花了将近一个小时讲流程、只用不到二十分钟讲模型怎么分档,这个时间分配本身就是答案。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
限速50km/h开到139km/h!问界回应“神木事故”:“电池爆燃”“智驾撞击”都是假的

限速50km/h开到139km/h!问界回应“神木事故”:“电池爆燃”“智驾撞击”都是假的

闪电新闻
2026-10-21 19:00:23
员工离职情绪高涨,宝马提前关闭补偿计划

员工离职情绪高涨,宝马提前关闭补偿计划

观察者网
2026-10-22 18:22:07
太离谱了!婚期将近,男方亲戚两次致电让未过门的女生前去帮忙,男友就在身边没阻拦,女生选择推迟订婚

太离谱了!婚期将近,男方亲戚两次致电让未过门的女生前去帮忙,男友就在身边没阻拦,女生选择推迟订婚

火山詩话
2026-10-18 08:15:10
杨子分享儿女近况,24岁女儿在上海当老师,儿子安迪5个月减50斤

杨子分享儿女近况,24岁女儿在上海当老师,儿子安迪5个月减50斤

柒佰娱
2026-10-22 10:55:24
2017年,30岁少妇寂寞难耐,和网友酒店厮混,完事后,她嘲讽对方身体太虚,酿成惨祸

2017年,30岁少妇寂寞难耐,和网友酒店厮混,完事后,她嘲讽对方身体太虚,酿成惨祸

法网恢恢
2026-10-22 22:33:24
2027年这5大生肖大翻身!霉运全消,事业起飞,正财偏财全面爆发

2027年这5大生肖大翻身!霉运全消,事业起飞,正财偏财全面爆发

千秋文化
2026-10-21 09:58:42
陆毅女儿贝儿18岁成人礼,一袭粉裙惊艳亮相,完美继承父母高颜值

陆毅女儿贝儿18岁成人礼,一袭粉裙惊艳亮相,完美继承父母高颜值

娱你同欢
2026-10-22 20:19:37
太气了!“小仙女”20万彩礼到手,她加18万存款全款买个人公寓,男方怒而退婚,评论区炸锅

太气了!“小仙女”20万彩礼到手,她加18万存款全款买个人公寓,男方怒而退婚,评论区炸锅

火山詩话
2026-10-20 08:56:53
你还在纠结32GB还是64GB内存:单条1TB DDR6已经公布!

你还在纠结32GB还是64GB内存:单条1TB DDR6已经公布!

快科技
2026-10-22 15:49:15
玄学提醒:永远不要让任何人,包括你的闺蜜,随意踏入你的家门

玄学提醒:永远不要让任何人,包括你的闺蜜,随意踏入你的家门

大熊欢乐坊
2026-10-03 09:31:46
54岁巨石强森大变样,驼背白发出镜,我差点没认出来

54岁巨石强森大变样,驼背白发出镜,我差点没认出来

南万说娱26
2026-10-22 09:18:25
6.8万人见证 欧冠3连胜!73岁老帅带队狂飙 奖金5010万欧元

6.8万人见证 欧冠3连胜!73岁老帅带队狂飙 奖金5010万欧元

叶青足球世界
2026-10-22 08:58:53
公园健身穿搭|熟女人妻,蓝黑撞色勾勒丰腴曲线

公园健身穿搭|熟女人妻,蓝黑撞色勾勒丰腴曲线

只要高兴就好
2026-09-29 08:34:57
一波未平一波又起!郭德纲再次被举报,官方已回应,又是即兴改编

一波未平一波又起!郭德纲再次被举报,官方已回应,又是即兴改编

天马幸福的人生
2026-10-22 15:28:37
南航,一个月退掉5架飞机!

南航,一个月退掉5架飞机!

民航之翼
2026-10-22 22:52:33
都已经遥遥领先了,凭什么还要消费者给时间?

都已经遥遥领先了,凭什么还要消费者给时间?

迷世书童
2026-10-12 00:05:17
出差时家里监控突然黑屏,我连夜赶回,凌晨4点多悄悄拧开门锁,正从主卧出来的保姆吓得瘫倒在地上

出差时家里监控突然黑屏,我连夜赶回,凌晨4点多悄悄拧开门锁,正从主卧出来的保姆吓得瘫倒在地上

晓艾故事汇
2026-10-22 17:14:07
桥本帆乃香:弥补了上届遗憾!早田希娜直言冠军属于我们5个人

桥本帆乃香:弥补了上届遗憾!早田希娜直言冠军属于我们5个人

排球黄金眼
2026-10-23 01:35:01
马克龙“点名”特朗普

马克龙“点名”特朗普

环球时报国际
2026-10-22 13:55:31
如果不出意外的话,下半年开始,房价、金价、物价或都迎来大洗牌

如果不出意外的话,下半年开始,房价、金价、物价或都迎来大洗牌

专业聊房君
2026-10-20 19:03:59
2026-10-23 05:28:49
至顶AI实验室 incentive-icons
至顶AI实验室
一个专注于探索生成式AI前沿技术及其应用的实验室。
3534文章数 186关注度
往期回顾 全部

科技要闻

腾讯云谷歌紧急行动!互联网安全出大事

头条要闻

西藏7.0级地震亲历者:房子震得嘎嘎叫 不敢回家

头条要闻

西藏7.0级地震亲历者:房子震得嘎嘎叫 不敢回家

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

宁德,跌成了一只红利股?

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

游戏
旅游
教育
本地
军事航空

小岛秀夫谈《死亡搁浅》争议:只有云玩家才跟风黑!

旅游要闻

6.5米高塔菊首次亮相天坛,菊花班班长揭秘如何拿到全国金奖?

教育要闻

研三秋招找工作才发现:有没有论文不重要,重要的是英语六级不能少,好多国央企都卡六级

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

军事要闻

泽连斯基"愿以领土换和平协议" 普京表态

无障碍浏览 进入关怀版