网易首页 > 网易号 > 正文 申请入驻

小龙虾引发了Token荒!

0
分享至

上周,来自大模型第一股智谱的一则退款公告,在圈里引起热议。

因为算力紧张、体验不佳,智谱选择给Coding Plan用户限时退款。



有小伙伴开始吐槽智谱不靠谱,其实智谱这个情况不是个案。

最近各大模型服务商都在悄悄调整自家的Coding Plan策略:

有人限购,有人停售,有人直接不开,还有人悄悄更改了套餐配额。



这究竟是为啥?

只因以小龙虾为代表的智能体,烧tokens太凶引发算力荒,服务费们卖包月卖不起了。

小龙虾们有多凶?甚至,你早上只是跟小龙虾说句「你好」,它就烧了大把Tokens。



为啥小龙虾们烧起tokens来这么凶

按人类思维来讲,我说一句:How r u? 小龙虾回一句: I'm fine。最多再来个:thank you,and you?

整个过程,就应该这么简单和直接,看着也就十几个字节。

但是,小龙虾这类智能体的工作原理非常不同,它们干起活来极度内耗。



01 、固定「起步价」就很高

普通AI聊天工具起步价基本是0️⃣,小龙虾起步就10块。

你发给它的只有“你好”两个字,但它发给底层模型的,远远不止两个字。

小龙虾要先给大模型发的是本轮 system prompt,好比是小龙虾的岗位说明书。



这岗位说明书,就是第一笔基础开销,起手先吃掉一大截tokens。

02、工具本身也要占Tokens

OpenClaw不仅要把「可用工具名称」告诉模型,还要把工具的JSON schema一起发过去,这样模型才能知道怎么调用。

所以,工具有两层成本:工具列表文本 + 工具 schema,而且schema也计入上下文。



03、Skills列表也有额外开销

即便还没真正调用某个skill,系统提示词里也会先带一份紧凑版技能清单,告诉模型「有哪些技能,各自干什么」



这又是一笔tokens开销。

工具箱已经不轻了,再背一本员工上岗手册,token不高才怪。



04 、历史对话会反复重带

早上起来问了一句你好,但模型模型看到却是“你好 + 昨天你和我整段聊天历史”。

会话越长,每次新消息就越贵,大多数情况下,模型每次处理新消息,都要把前面的对话历史重新带一遍。

即便你做了压缩和剪裁,仍然要付出相当大的成本。

当你偶尔为小龙虾优秀的举一反三点赞,其实也在为tokens买单。



05 、前序工具输出还会占据窗口

第五笔大头,是旧资料的输出可能一直挂在窗口里,这是隐形大胃王。

如果前面读过网页、文件、日志、终端输出,这些工具调用的结果和附件也都算上下文。



05 、加载记忆文件,也要付出代价

你可能经常为小龙虾失忆烦恼,会在MEMORY.md文件上大费周章。

Memory不是免费外挂,它平时可以存在磁盘里,但只要本轮需要把记忆重新加载进模型窗口,它就会重新占用你的tokens。



除此之外,还有比如智能体会调用多个子智能体组团烧Token,或者你选的模型不够聪明,走弯路额外多烧Token,还有很多Skills还要调用额外的模型API等等。

智能体的工作流就是这种套路,大力出奇迹,肝就一个字,哪怕用户输入很短,系统内部也可能触发多步思考和多次模型调用。

它先把你的消息标准化、路由到当前 session。
然后拼一份系统提示,把工具、技能、工作区文件、身份、时间、运行元数据都塞进去。
再把整个会话历史、之前的工具结果、附件和摘要一起带上。
接下来所有工具 schema 一起发给模型。
模型收到后,还要先判断这句“你好”到底只是寒暄,还是一个任务开始信号。
如果你之前有很长的会话,它还可能读到缓存里的整段大上下文。



所以,你发一句“Thank you”,它会摆开架势,大马金刀的走完整套运行链路。

等他一顿操作猛如虎的完tokens,慢吞吞的回复你:谢谢夸奖,主人。

看到后台汹涌磅礴的tokens数据,你只想说:xxxk u



不要以为只有小龙虾这么肝,刚刚新蹿红的Hermes也一样。

所以,当我们使用这类智能体,应该养成一些好的习惯↓

①少跟龙虾寒暄,培养感情没用,把它当成喂不熟的狗,直接下命令。

②尽量精准完整的提示词,一次把任务说清楚。

③大日志、大代码库、大文档别图省事整个投喂。

④控制输出长度,明确回复的篇幅,减少废话。

⑤不要在一个Session里干到天荒地老,注意不同任务切换会话。

⑥没用的工具和Skills别整太多,不好用的测完及时删除。

⑦尽量选择更聪明的模型,少跑弯路,有些时候,便宜就是贵。

⑧有些免费AI聊天助手就能干的活(比如单步任务:P个图、翻译个文档),就别麻烦小龙虾了,浪费了Tokens效果还不好。



特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
亚洲新蛙后!唐钱婷两破亚运纪录 包揽女子50米+100米蛙泳双金

亚洲新蛙后!唐钱婷两破亚运纪录 包揽女子50米+100米蛙泳双金

醉卧浮生
2026-09-23 17:09:28
欧盟对中国下达最后通牒,20天内中方还不答应,布鲁塞尔就将动手

欧盟对中国下达最后通牒,20天内中方还不答应,布鲁塞尔就将动手

健身狂人
2026-09-23 14:54:55
33岁女演员确诊癌症,已失去生活自理能力,家人苦撑2年公开求助:她想活下去,还想回去唱戏

33岁女演员确诊癌症,已失去生活自理能力,家人苦撑2年公开求助:她想活下去,还想回去唱戏

扬子晚报
2026-09-23 15:56:49
相亲当天就领证,男子“闪婚”三个月后又离婚,要求退还红包和16.8万元彩礼;律师:需区分“骗婚跑路”情形

相亲当天就领证,男子“闪婚”三个月后又离婚,要求退还红包和16.8万元彩礼;律师:需区分“骗婚跑路”情形

封面新闻
2026-09-22 21:50:14
揭阳市纪委监委公开通报,查处许松青、杨春新、李勤勉、黄锦南、方文笑、林建新

揭阳市纪委监委公开通报,查处许松青、杨春新、李勤勉、黄锦南、方文笑、林建新

南方都市报
2026-09-23 18:19:33
美国丹麦格陵兰岛安全协议落地,给中国统一台湾上了最清醒的一课

美国丹麦格陵兰岛安全协议落地,给中国统一台湾上了最清醒的一课

阿淫记录生活日常
2026-09-21 18:12:05
哈佛研究发现:3种颜色是“抑郁色”,若孩子喜欢,家长需谨慎

哈佛研究发现:3种颜色是“抑郁色”,若孩子喜欢,家长需谨慎

户外阿毽
2026-09-23 15:23:41
亚运男足太残酷了:随着伊朗1-4遭逆转,八强仅一支西亚球队

亚运男足太残酷了:随着伊朗1-4遭逆转,八强仅一支西亚球队

侧身凌空斩
2026-09-23 15:40:55
中央纪委国家监委公开通报六起违反中央八项规定精神典型问题

中央纪委国家监委公开通报六起违反中央八项规定精神典型问题

界面新闻
2026-09-23 17:10:04
王东伟任安徽省委副书记,省政府党组书记、代理省长

王东伟任安徽省委副书记,省政府党组书记、代理省长

界面新闻
2026-09-23 18:44:49
2000 多家店背后,老乡鸡的中式快餐范本

2000 多家店背后,老乡鸡的中式快餐范本

晚点LatePost
2026-09-22 18:38:02
俄罗斯迎来单日最大损失,莫斯科历史上第一次遭到弹道导弹打击,FP-7鹈鹕弹道导弹首战,俄罗斯一夜损失数十亿美元。

俄罗斯迎来单日最大损失,莫斯科历史上第一次遭到弹道导弹打击,FP-7鹈鹕弹道导弹首战,俄罗斯一夜损失数十亿美元。

古古聊军事
2026-09-21 22:10:06
魔幻的中国光伏补税:补贴可以拖,税不能晚交;核准改备案,优惠就取消

魔幻的中国光伏补税:补贴可以拖,税不能晚交;核准改备案,优惠就取消

风向观察
2026-09-23 07:52:34
六神花露水焕新包装被指用印钞专用纸 律师:未使用人民币图样不违规

六神花露水焕新包装被指用印钞专用纸 律师:未使用人民币图样不违规

快科技
2026-09-23 08:52:02
高市早苗在纽约与特朗普会面,主动赶记者出去:要谈的事太多了,请出去吧;联大演讲企图呼吁删除“敌国条款”

高市早苗在纽约与特朗普会面,主动赶记者出去:要谈的事太多了,请出去吧;联大演讲企图呼吁删除“敌国条款”

极目新闻
2026-09-23 10:17:17
张宇祥当选上海嘉定区区长

张宇祥当选上海嘉定区区长

澎湃新闻
2026-09-23 16:34:28
亚运会乒乓球:张本智和收获奖牌!3:0大获全胜,松岛辉空3:2险胜

亚运会乒乓球:张本智和收获奖牌!3:0大获全胜,松岛辉空3:2险胜

国乒二三事
2026-09-23 06:51:57
第4金!亚运会男子200自决赛:张展硕1分43秒49破亚洲纪录夺冠

第4金!亚运会男子200自决赛:张展硕1分43秒49破亚洲纪录夺冠

全景体育V
2026-09-23 16:35:38
17000名员工失业的饭碗谁来担?罗永浩回应了:你老板让人看得,顺便回应了“罗太君”的外号

17000名员工失业的饭碗谁来担?罗永浩回应了:你老板让人看得,顺便回应了“罗太君”的外号

王老师你还好吗
2026-09-23 06:36:55
维尼修斯状态断崖下滑!皇马高层一头雾水,找不到维尼修斯低迷根源,迪奥曼德成左路替代人选

维尼修斯状态断崖下滑!皇马高层一头雾水,找不到维尼修斯低迷根源,迪奥曼德成左路替代人选

福酱的小时光
2026-09-23 17:20:33
2026-09-23 18:56:49
AI全球总部
AI全球总部
全球最新、最酷AI解决方案
1244文章数 716关注度
往期回顾 全部

科技要闻

一夜三款新模型,AI价格战再升级

头条要闻

33岁黄梅戏女演员确诊癌症 家人公开求助:她想活下去

头条要闻

33岁黄梅戏女演员确诊癌症 家人公开求助:她想活下去

体育要闻

300万英镑,他们买下了一位队史传奇

娱乐要闻

王玉雯杨玏被曝结婚又离 荒唐一幕出现

财经要闻

全市场都在卷自营

汽车要闻

性能与实用兼得 全新奥迪S5 Avant上市 57.18万元

态度原创

家居
本地
健康
数码
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

痘痘没成熟,千万别硬挤!

数码要闻

ID-COOLING预告FLOW 500:前置电源M-ATX兼容机箱,10月见

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版