网易首页 > 网易号 > 正文 申请入驻

从 Token-Maxxing,到 Token-Minimizing

0
分享至

最近,各家都掏出了 flash 版的口粮模型:又快又好又便宜,干啥都不心疼无论国内的 DeepSeek V4.1-Flash、GLM-5.3-Flash,抑或是海外的 Gemini 3.8 Flash,都被各家作为便宜大碗的主力模型进行推广,让那些需要做,但投入产出评估上不值得 Fable 一类模型出马的事情,变得值得落地了

这个的背后,其实有个小小的时代变化:从 Token-Maxxing,到 Token-Minimizing


Token-Maxxing

Token-Maxxing 这个词是今年上半年传开的,直白一点就是「把 Token 猛猛地烧起来」,尽可能多的并发,尽可能多地去搞;到了国内,这个词还有个变形「全民养虾」

在当时,Meta 内部一个按 Token 用量给员工排名的看板,还会授予“Token Legend”这样的称号,大抵能翻译成「词元天尊」,用来表达对“先进个人,先用 token”的激励

在当时各个大厂都在想着法地让人去用 token,毕竟虽然 Agent 并不能 100% 搞定任务,但它可以并行几十种方案去探索,即便是没搞定也能让员工更好地积累经验。都是行业的早期阶段,浪费一些计算,好过错失一些可能,万一探索出来点东西,比如省了团队半年的开发,怎么看都是赚的

但到了这里,事情也开始分叉:有些人开始 token 空烧比如写一个脚本,每天上班的时候让他的 10 个 Agent 并行去「帮我解答哥德巴赫猜想」...然后在 1 小时内消耗掉了他的所有额度,进而美美去摸鱼了,更有甚者...把公司的 token 资源代理一下,成为了中转站大佬


于是,业内开始了一轮反思:我们应该如何更有效地利用 token?我们使用 token,本质上也是在做一种智力分配,在一些值得探索的问题投入更多的智力,而不是为了证明自己很会用 AI 而去消耗

于是,我们进入了下一种思潮:Token-Minimizing,去细致地核算每一份智力的产出

Token-Minimizing

任何公司都希望大家把 AI 用起来、去完成更多的任务,但任何公司的预算都是有限的,在这里就有了 Token-Minimizing 的提出:要压低每份合格交付的总成本,对不同的任务进行不同的预算规划,去降低每个任务的总成本


注意,这里用的是「总成本」,也就是「人力+token」的总消耗;假如是为了省下一百元的 Token,而去耗掉一万块的人力,这叫煞笔



也正是趁着更多模型跨过可用门槛,我们的模型厂商也顺势推出了甜品型 flash 模型,标准大概是:

  • 智力在 Opus 4.6 以上

  • 价格在头部模型的 1/10 以内

  • 速度通常在 100 token/s 或者更快

比如 DeepSeek 的 V4.1-Flash 的价格,就只有 Opus 4.8 的 1/10;而 GLM-5.3-Flash(也就是牛来)则甚至做到了 Opus 4.8 的 1/40,斩杀了当时绝大多数的模型


于是,一个非常朴素的问题出现了:没有其他特殊要求的话,我为什么选你?一个模型不必赢过所有对手,但必须在斩杀线外找到一个位置。

因此,模型的比赛开始同时往两个方向走:

  • 继续向上,探索此前做不到的事情

  • 也努力向左,用更低成本完成已经能做到的事情

讨论于外滩大会

前几天我在外滩大会,在台上台下参与了很多场的分享,其中的部分场次也提到了「Token-Minimizing」的一些话题

百灵团队聊到阿福选模型的一个变化:过去优先使用最大、最好的模型,现在一些较小的模型也能跨过业务要求的“水位线”,成本和响应速度就开始影响选型

这个变化其实挺能说明问题:Token-Minimizing 如果只理解成“省 Token”,还是说窄了。

阿福技术负责人进捷说得很直接。用户规模起来以后,推理成本会变得非常高;而且 C 端应用还有一个特别现实的问题——用户不会一直等你。模型可能只是在 Benchmark 上慢了几秒,但放到产品里,等 5 秒用户可能就走了。

所以当小模型也能跨过业务水位线之后,问题自然就从“谁最聪明”,变成了:谁能在足够聪明的情况下,更快、更便宜、更稳定地把事情办完,真正重要的是“端到端的任务成功率”。

单轮回答得又快又便宜,但最后任务没办成,前面省下来的 Token 也没什么意义。


外滩大会上,还有另一个模型的介绍,是百灵上个月发布的金融增强模型 Ling-3.0-flash-Fin。它沿用 Ling-3.0-flash 的架构,124B 总参数、5.1B 激活参数,再通过金融语料训练、领域后训练和工具使用优化,强化信息检索、研究推理、估值建模与研报撰写。它要交付的东西,包括能追溯数据、保留公式、继续编辑的研究文件

其中有一个 Google 2026 Q2 财务模型更新的演示:模型读取财报和一份包含 7 张工作表、5,000 余个公式的 Excel,把该季度的预测值更新为实际披露值,同时处理公式切换、跨表依赖和图表,最后交回仍可编辑的工作簿

沿着这个例子,思考还可以进一步展开:越来越多的任务,会便宜到不值得人陪同虽然 Flash 能够有效降低执行成本,但假如每次都需要研究员先发现变化,再不断检查,实际上也是一种浪费。于是可以构想出未来的一种工作方式:核心任务交给检验 Harness,把无法通过检验的任务再交给工作人员

对应着放出来的,还有蚂蚁集团联合中金打造了 FinFIRST(Financial Information Retrieval, Sourcing and Traceability)。该评测基准由 50 余名金融专业人士深度参与设计,从结果、过程和证据三个层面,系统评估答案是否准确完整、研究口径与计算是否合理,以及关键数据与结论能否回溯至权威原始资料


FinFIRST 与代表性金融 Benchmark 的能力维度对比

在这个过程中,机构可以把模型接进自己的数据和工具环境,用来帮助判断问题出在哪一步,其背后思考的理念也便是 Token-Minimizing对于金融这类需要严格把关的行业,除了要在高频调用下节省 token 外,还需要有效地降低复核和返工的用时,这样才能算是真的 Token-Minimizing

毕竟,在金融这种场景里,这个成本可能比 Token 贵多了。

百灵团队聊模型边界时提到一个挺反直觉的问题:现在很多 Benchmark 会鼓励模型“尽量答”。不知道也猜一个,反正猜中了有分,不回答反而没分,反正就是很“舔狗”。

但真实世界完全不是这么回事。

百灵金融模型负责人月引举了一个金融评测里的现象:有些模型碰到不确定的问题,会一口气给出几十种口径;从 Benchmark 的角度看,它可能覆盖到了正确答案,但一个真正的研究员不可能拿着几十个互相冲突的判断去做决策。

所以在严肃场景里,百灵反而会提高对拒答的奖励——不知道的时候,宁愿告诉用户不知道。

这其实也是另一种 Token-Minimizing:

不是少说几个字,而是少制造一次错误,少让一个人花半小时帮 AI 擦屁股。


FinFIRST 候选题依次经过专家编写、独立复答、交叉验证、Rubric 审核、压力测试和一致性检查,最终保留 123 道任务

或许,站在 5 年前的视角看现在,一切都有点魔幻:人工智能在自我递归迭代,并在产生各种可被执行的需求如果再沿着百灵的思路补半句,或许是:真实世界最终会告诉模型,什么才叫“把事做成”

最后

我们甚至可以假设:即便是今天强如 Fable,也未必打得过六个月后的 Gemini Flash(虽然也,反正我是觉得旗舰的溢价里,很大一部分是时间优势

然后随着模型智能水位的不断提升,叠加到并不是所有的厂商都能够占据最头部的智能生态位,我们便会看到许多的模型以 Flash 的名义被推出(或许这些模型本就应该标记为 pro),对于所有模型都做得到的工作,其实并没必要多瞎花钱

于是,那些原本需要人做,或者 Fable 级别模型来做,以至于 ROI 很难看的事情,现在便有了规模化的可能,大抵便是:Pro 告诉我们啥事儿能交给 AI,Flash 告诉我们啥事儿值得交给 AI


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
记者:阿莫林还在强行找借口,也许他的性格就是这样

记者:阿莫林还在强行找借口,也许他的性格就是这样

懂球帝
2026-11-07 08:15:36
印媒:地球上没有任何力量能阻止印度成为35万亿美元的经济体

印媒:地球上没有任何力量能阻止印度成为35万亿美元的经济体

荆楚寰宇文枢
2026-11-05 23:19:37
中国外交官被限24小时离境,横插两岸统一,这国比美国更过火?

中国外交官被限24小时离境,横插两岸统一,这国比美国更过火?

蜉蝣说
2026-11-05 10:20:15
完了、完了!中国房地产的底牌被高盛扒个底朝天…

完了、完了!中国房地产的底牌被高盛扒个底朝天…

慧翔百科
2026-11-06 08:43:34
吃相难看!延安大学副教授自尽愈演愈烈,荒谬事发生,还不止一件

吃相难看!延安大学副教授自尽愈演愈烈,荒谬事发生,还不止一件

社会日日鲜
2026-11-06 07:04:14
就在刚刚,斯诺克国际锦标赛:决赛竞争激烈,双方四次战平,希金斯5-4威尔逊

就在刚刚,斯诺克国际锦标赛:决赛竞争激烈,双方四次战平,希金斯5-4威尔逊

篮球热嗖
2026-11-07 20:15:51
张萌回应“整容脸”:脂肪吸收了假体取了,原生骨相打了谁的脸?

张萌回应“整容脸”:脂肪吸收了假体取了,原生骨相打了谁的脸?

小莜读史
2026-11-06 14:44:13
重大损失!谢莹莹逝世

重大损失!谢莹莹逝世

上观新闻
2026-11-07 17:04:54
太惨了,北京某大厂被曝裁员40%,网友说:计算机土木化了!

太惨了,北京某大厂被曝裁员40%,网友说:计算机土木化了!

黯泉
2026-11-06 11:38:02
重磅:东风-61突然入列,中国为何此刻掀开核底牌?

重磅:东风-61突然入列,中国为何此刻掀开核底牌?

华山穹剑
2026-11-07 19:47:07
“迎接APEC,深圳的石墩子都在努力”

“迎接APEC,深圳的石墩子都在努力”

深圳微时光
2026-11-07 19:05:13
歌手杨坤公布病情

歌手杨坤公布病情

极目新闻
2026-11-06 09:30:31
时隔305天轰20+!林葳20分钟20+4+3大爆发 率俄勒冈两战全胜

时隔305天轰20+!林葳20分钟20+4+3大爆发 率俄勒冈两战全胜

醉卧浮生
2026-11-07 09:08:01
突发!63岁冯远征不再担任北京人艺院长,成北京人艺历史上任职时间最短的院长

突发!63岁冯远征不再担任北京人艺院长,成北京人艺历史上任职时间最短的院长

叨唠
2026-11-07 00:05:25
9换2交易发威,华子安心养伤!5年1.12亿押对宝,库明加也打出来了

9换2交易发威,华子安心养伤!5年1.12亿押对宝,库明加也打出来了

锅子篮球
2026-11-07 17:36:32
农村多地滞销烂地里!5毛一斤贱卖不够工钱,农民:再也不种了

农村多地滞销烂地里!5毛一斤贱卖不够工钱,农民:再也不种了

邹小蘑菇
2026-11-06 11:22:45
中纪委出台反腐新规,贪官末路来了!无论在职退休一律严惩

中纪委出台反腐新规,贪官末路来了!无论在职退休一律严惩

细说职场
2026-11-07 11:17:06
新势力集体沉默!工信部第413批新车申报量锐减背后:新规阻击速成车,合资新能源加速入场

新势力集体沉默!工信部第413批新车申报量锐减背后:新规阻击速成车,合资新能源加速入场

每日经济新闻
2026-11-05 22:48:02
违背当局宣传口径的俄挺战博主被拘

违背当局宣传口径的俄挺战博主被拘

名人苟或
2026-11-06 15:37:20
目前国内最有希望举办下一届G20峰会的城市分析

目前国内最有希望举办下一届G20峰会的城市分析

花小猫的美食日常
2026-11-07 06:46:58
2026-11-07 22:04:49
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
623文章数 59关注度
往期回顾 全部

科技要闻

AI机房被卡,美股重挫!英伟达大跌9%

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

体育要闻

40岁,正是绝杀的年纪!

娱乐要闻

42岁的唐嫣,又上热搜了

财经要闻

市场能接受AI繁荣退潮吗?

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

房产
本地
教育
健康
公开课

房产要闻

突发!海口新政:小户型回来了!

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

72哈哈哈哈哈哈哈哈哈

痘痘长到25岁还没完?查查内分泌

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版