网易首页 > 网易号 > 正文 申请入驻

65%省Token实测:真正管用的只有两个字

0
分享至

一个叫 caveman 的仓库最近在 GitHub 上刷屏了。它的自我介绍写着:为什么用很多 token,当很少 token 就能搞定。号称能让编程智能体省下 65% 的 token,办法是"像原始人一样说话"。

这个梗好笑到光靠笑话就传开了。也正因为这样,它值得被实测一遍,而不是随手转发。

有人真的动手了:弄坏一个真实的 C# 程序,让同一个智能体的四个版本去修,用项目自己指定的分词器数每一个 token,再把所有答案编译一遍,确认"更短"没有变成"更差"。

三个发现出乎意料,其中一个任何文档里都没写。

一、标题数字和它自己的文档打架

仓库描述说 65%,来自"像原始人一样说话"。但项目文档页的副标题写的是另一回事:安装技能获得更短的回答,或者用命令行代理把输入 token 砍掉 33.2%。

这根本不是同一个说法。caveman 其实是两个产品:

  • 技能(skill)——一套写作规则,让智能体的回答变短,改的是模型"说什么",也就是输出 token。
  • 代理(proxy)——一个本地程序,在模型读到文件之前先压缩它们,改的是模型"看到什么",也就是输入 token。

33.2% 属于代理,而描述把功劳记在了"像原始人一样说话"头上,那是技能。它推销的是自己产品的另一半。

不过文档比营销诚实得多,里面甚至有一句坦白,后来被拿来当对照组:"be concise"(保持简洁)本身就已经拿到了大部分收益。

二、它不是一堆提示词文件

原本的猜测是:这不过是 markdown 文件里一段聪明的文字,运气好火了。错了。把仓库目录拉下来按扩展名分组:

  • Go(代理+引擎)640 个文件,6.6 MB,占 30.9%
  • JS / TS 450 个文件,5.6 MB,占 26.5%
  • Python 103 个文件,1.3 MB,占 6.3%
  • Markdown(全部文档)179 个文件,1.1 MB,占 5.2%
  • skills/ 里那个"原始人" 64 个文件,0.3 MB,占 1.3%

整个仓库 1785 个文件、21.2 MB,31% 是 Go——一个真正的代理和一个真正的压缩引擎。那个著名的"像原始人一样说话"指令,只占仓库的 1.3%。

梗在门面上,门后面是一台编译器。

三、实测:65% 是真的,但来自另一个模式

测试用的 bug 有可验证的通过/失败标准:一个 C# 购物车会悄悄丢东西。给 Dictionary 当键的对象,插入时哈希算一次,之后改掉 Sku,GetHashCode 返回的值就变了,查找会去探测另一个桶,什么也找不到,Equals 根本没被调用。条目没消失,只是够不着了。

每次的提示词完全一样(276 个 token):解释失败原因,返回修正后的类。四个变体,每个跑三次,用 o200k_base 数 token:

  • plain:896 / 951 / 688,均值 845
  • concise:541 / 669 / 598,均值 603,省 28.7%
  • caveman:475 / 577 / 395,均值 482,省 42.9%
  • ultracave:314 / 317 / 293,均值 308,省 63.6%

所以标题数字是能实现的——但来自最大压缩模式,不是描述里宣传的原始人腔调。腔调本身落在约 −43%。而"Be concise."三个 token、零安装,拿到 −28.7%。

这不是第一个测的人。Max Taylor 用 24 个提示词、第二个模型打分,把 caveman 和"Be brief"对比过,发现两个词的提示词在 token 和质量上都打平。两次测试在 /ultracave 上有分歧,但都同意关键的那部分:大部分节省是免费的。

四、压缩还顺带砍掉了波动

看离散程度。plain 在 688–951 之间(±15%),/ultracave 在 293–317 之间(±4%)。简洁模式不只是更小,还明显更可预测——如果你在给一次长智能体运行做预算,这比均值更重要。

五、技能不是免费的

那些规则每次会话都要发给模型。用同一个分词器量:skills/caveman/SKILL.md 是 1158 个 token,skills/ultracave/SKILL.md 是 608 个 token。教模型少用 token,要先花 1158 个 token。

对比免费的两个词提示词,/caveman 每次回答省约 120 个 token,回本需要约 10 次回答;/ultracave 每次省约 295 个 token,回本约 2 次。两个维度上 /ultracave 都更划算——开销减半,节省翻倍还多。

项目自己提了一个前提:如果这些规则待在缓存的提示词前缀里,开销会被摊薄。他们没测,测试者也没测。

六、答案变差了吗?没有

这是大多数 token 基准测试跳过的一步。把每个答案里修正后的类提取出来,对着原始 Cart 编译并运行。四个全部编译通过,四个全部打印 PASS。

/ultracave 的完整答案只有 11 行,而且是对的。它用 init 让身份字段不可变,于是那行引发 bug 的赋值语句从静默损坏变成了编译错误。压缩没有丢东西。/caveman 的答案甚至抓到了 plain 从没提过的第二个 bug:Sku 为 null 时 GetHashCode 会抛异常。而 plain 的开场白是"没拿到探测 .NET SDK 的权限"——正是这些规则要删掉的废话。

七、没人写过的发现:它压的是形状,不是格式

再说代理,也就是描述忘了记功的那部分。npm 包只是前端,压缩引擎是另一个签名二进制。引擎不在时它会老实交代:0% 压缩,输入原样通过。

引擎就位后,喂四个真实文件:

  • build.log(.NET 构建):945 → 945,省 0%
  • repo.json(嵌套 API):1965 → 1965,省 0%
  • records.json(400 条记录):19994 → 2509,省 87.5%
  • export.csv(400 行):8409 → 314,省 96.3%

文档宣传"CSV、日志、YAML、测试输出、JSON"能省 98–99%。真实数据上:整齐的表格数据效果惊人,CSV 省 96.3%,400 条 JSON 记录省 87.5%,这个形状上宣传成立。但构建日志和嵌套 API 响应,正好 0%。不是识别错了——直接问引擎,它正确判定为 code 和 json,只是对它们无事可做。

规则不在 README 里:它压缩的是形状,不是格式。重复记录的行能漂亮地塌缩,散文式的日志和深层嵌套对象不行。如果你的智能体上下文主要是构建输出和 API 响应,这部分对你几乎没用。

每个压缩结果都带一个看着吓人的标记:对模型有损。模型确实看不到原文,部分内容被移除了。但每次压缩都返回一个恢复句柄。拿它要回原文再比对:46886 字节进,46886 字节出,逐字节相同。对模型有损,在磁盘上无损。

结论分两半

技能:跳过。打上 be concise。两个词,三个 token,不用安装,独立基准测试发现效果相当。原始人腔调比它多买约 14 个百分点,代价是 1158 个 token 的开销和大约十次回答才回本。

代理:确实不错,但有条件。如果智能体整天读 CSV、导出文件和记录转储,96% 是真的,你能感觉到。如果它读的是源码、构建日志和嵌套 API 响应,你等于装了个几乎不干活的代理。

不是炒作,是标签贴错了。工程比梗所暗示的更好——可验证的签名供应链,引擎拒绝把恢复存储写进权限宽松的目录。但原始人是营销,Go 代码才是产品,而被分享最多的那部分,恰恰是最不值钱的那部分。

更普适的一课不花钱:在装东西省 token 之前,先试试少要点。整个对照组只有两个词长。

方法说明:每个变体 n=3,单一任务、单一模型,所以这些数字读作"在这个任务上",不是"普遍情况"。这里的输出 token 测量和项目那个 33.2% 的输入 token 数字不可比,是两种不同的主张。测试环境为 caveman 4.0.1、.NET 10,token 用 o200k_base 计数。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
法国爆发近年来最严重暴力骚乱,数十万人走上街头!视频画面曝光

法国爆发近年来最严重暴力骚乱,数十万人走上街头!视频画面曝光

政知新媒体
2026-10-18 12:22:37
115-109险胜!浙江广厦五分钟狂砍20分!双加时掀翻山西汾酒!CBA告别外援独大,本土球员大放异彩

115-109险胜!浙江广厦五分钟狂砍20分!双加时掀翻山西汾酒!CBA告别外援独大,本土球员大放异彩

篮球热嗖
2026-10-18 13:22:47
薄一波夫人最初认水静女儿做“儿媳”,多年后再见,“儿媳”却成了亲女儿

薄一波夫人最初认水静女儿做“儿媳”,多年后再见,“儿媳”却成了亲女儿

糺缦缭虹霓
2026-09-28 07:25:30
特朗普豁免对俄制裁,共和党参议员怒批:政府正向普京屈服

特朗普豁免对俄制裁,共和党参议员怒批:政府正向普京屈服

桂系007
2026-10-17 23:39:37
66岁的费翔采访中,被问到“你看到别人有儿子、有孙子的时候,羡慕吗?遗憾吗?”,他回答得很平静

66岁的费翔采访中,被问到“你看到别人有儿子、有孙子的时候,羡慕吗?遗憾吗?”,他回答得很平静

孙琬童
2026-10-17 06:25:12
梅西2球获评10分!美职联27场造38球+领跑射手榜,生涯936球追C罗

梅西2球获评10分!美职联27场造38球+领跑射手榜,生涯936球追C罗

球场没跑道
2026-10-18 09:55:30
最像正规军,最“不会出事”的P2P,倒了!

最像正规军,最“不会出事”的P2P,倒了!

华商韬略
2026-10-16 10:47:43
林彪曾提议枪毙许世友,几十年后身份互换,许世友负责抓捕林彪!

林彪曾提议枪毙许世友,几十年后身份互换,许世友负责抓捕林彪!

历史龙元阁
2026-10-18 14:25:15
太扎心了!网友自曝:前同事,44岁程序员,失业后找了一年工作,想不开了……

太扎心了!网友自曝:前同事,44岁程序员,失业后找了一年工作,想不开了……

丫头舫
2026-10-14 22:12:09
小学男生紧抱茅台被群嘲,暴露了“志穷”有多可怕,家长还在鼓励

小学男生紧抱茅台被群嘲,暴露了“志穷”有多可怕,家长还在鼓励

熙熙说教
2026-10-18 14:15:56
这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

宇宙时空
2026-05-26 18:20:10
为啥美国用华氏度而中国用摄氏度?网友:他们就是吃饱了撑的!

为啥美国用华氏度而中国用摄氏度?网友:他们就是吃饱了撑的!

另子维爱读史
2026-10-17 21:34:53
恩断义绝!金正恩治下的朝鲜发生大变化,金与正发表前所未有谈话

恩断义绝!金正恩治下的朝鲜发生大变化,金与正发表前所未有谈话

张嘴说财经
2026-10-16 21:20:32
差2分榜首大战!无罚分真实实力出炉,中超原本有多热闹?

差2分榜首大战!无罚分真实实力出炉,中超原本有多热闹?

无月可归辛
2026-10-17 19:17:24
如果中国人的低工资是一种优势,那谁最希望我们永远低工资?

如果中国人的低工资是一种优势,那谁最希望我们永远低工资?

熊倌儿
2026-09-19 10:48:32
特斯拉能“飞”,高管披露技术细节

特斯拉能“飞”,高管披露技术细节

大风新闻
2026-10-17 21:49:04
美国著名经济学家理查德•沃尔夫有一个观点:中国的制度优势让美国感到害怕,这是一切问题产生的根源

美国著名经济学家理查德•沃尔夫有一个观点:中国的制度优势让美国感到害怕,这是一切问题产生的根源

扶苏聊历史
2026-10-10 10:45:44
未来3到5年,找工作将消失?不是没岗位,而是雇佣关系正在崩塌

未来3到5年,找工作将消失?不是没岗位,而是雇佣关系正在崩塌

时尚的弄潮
2026-10-17 06:51:10
"台湾永远不会是中国的一部分",台独政客郑丽君,遭艺人当众打脸

"台湾永远不会是中国的一部分",台独政客郑丽君,遭艺人当众打脸

知法而形
2026-10-16 16:12:48
红薯被注意!研究发现:吃得越多,血栓者寿命可能越长?真的假的

红薯被注意!研究发现:吃得越多,血栓者寿命可能越长?真的假的

白宸侃片
2026-10-18 12:46:43
2026-10-18 14:56:49
我是一个养虾人
我是一个养虾人
有态度网友ytd
216文章数 92关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

员工仅1人的公司中标3千万项目 标书是代写对手被劝退

头条要闻

员工仅1人的公司中标3千万项目 标书是代写对手被劝退

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

曝郭麒麟与25岁知名女星已经结婚,女方回应关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

教育
旅游
游戏
本地
公开课

教育要闻

数典忘祖!中国留学生在课堂上身披旭日旗,本人道歉毫无悔意

旅游要闻

“美丽中国行”中国文化报记者实地探访珲春东北虎豹国家公园

《边缘行者2》导演亲自玩2077!深入夜之城找灵感

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版