网易首页 > 网易号 > 正文 申请入驻

美团开源1.6万亿参数LongCat-2.5:我看到“全国产算力”时很激动,直到翻到部署要求那一行——W4A4版仍需约1070GB显存

0
分享至

11月9日,美团把LongCat-2.5的权重放上了HuggingFace,MIT协议,商用推理和二次训练都不需要额外授权。

1.6万亿总参数,480亿激活,100万上下文,原生多模态,训练全程国产算力。 这组数字放在一起,确实让人坐直了。

但我翻到W4A4量化版的模型卡和几篇部署分析之后,看到了一行比所有参数都重要的信息:即便是把专家权重和激活同时压到4 bit的“显存友好版”,实际部署仍然需要约1070GB的显存。原版BF16权重,需要数TB级别。

“开源”和“你能在自己机器上跑”,在LongCat-2.5身上是两件需要分开说的事。



先说它真正做到了什么:不是“又一个开源模型”,是一次全链条的国产算力验证

LongCat-2.5最容易被低估的地方,不在参数规模,在训练链条。

它从预训练到监督微调,全程跑在国产AI加速器上。而国产卡有一个很现实的约束:单卡显存普遍不足80GB。用这样的硬件去训一个1.6万亿参数的MoE模型,不是“把卡堆起来”就能解决的。

美团的做法很具体:FSDP双重分片把计算和显存压力分散到超节点内的多张卡上,混合词表并行、MoonEP动态专家复制、零拷贝通信,把专家并行的all-to-all通信留在机柜内部。官方数据:这套配置在长序列SFT中,单卡吞吐量比DDP基线提升了86%——折算下来,一张卡在同样时间里完成了原来约1.86张卡的工作量。

这个数字的意义不在“快了86%”,在于它证明了在单卡显存受限的国产硬件上,万亿参数模型的训练是可以被工程化解决的。它不是“理论可行”,是有具体配置、具体吞吐数据的生产级方案。

评测成绩也有硬数据。BrowseComp联网检索91.9分、ALE v1.1跨领域智能体38.5分、ResearchRubrics深度研究81.0分、3DCodeBench文字生成3D代码55.4分,四项在9款模型的已公布成绩中排名第一。Terminal Bench v2.1拿到88.4分,比上一代的70.8分提升了17.6分;DeepSWE v1.1从9.7跳到64.6。

但这些分数有一个必须说清楚的前提:目前绝大多数是官方自测,独立第三方复测还没有出。



开源是真的,但“普通人能本地跑吗”的答案很直接:不能

我把两个checkpoint的硬件要求捋了一遍。

原版权重是BF16等高精度格式,效果与API版对齐,适合算力充足、要做评测基线或精调的团队。1.6万亿参数在BF16精度下,权重本身就需要数TB显存,单机八卡远远不够。

W4A4版把专家权重和激活同时压到4 bit,配合国产加速卡的原生INT4矩阵计算单元,是官方为显存受限环境准备的“实用路径”。但即便压到了4 bit,约1070GB的显存需求仍然意味着你需要多卡超节点或大显存集群,而不是一张消费级显卡。

还有一个容易被“480亿激活”误导的地方:激活参数不等于显存需求。MoE的稀疏激活降低的是每个Token的计算量,但全部1.6万亿专家参数仍然需要被加载和驻留在显存里。480亿是“每次走哪条路”,1.6万亿是“整张地图有多大”。

所以“普通人能本地跑吗”的答案很干脆:不能,除非你手上有超节点级别的国产算力集群,或者多卡大显存服务器。LongCat-2.5的“开源”,是给有基础设施的团队开了一扇门,不是给个人开发者发了一张门票。



比显存更值得担心的:Preview阶段的“循环”和“乱改”,正式版还没有被独立验证

显存门槛是“能不能跑”的问题。可靠性是“跑起来之后敢不敢用”的问题。

LongCat-2.5-Preview在9月上线后,r/opencode上有几条非常具体的反馈。一位用户说:“我用它搭建VM,它多次在执行简单的 ls 命令时不断陷入循环。” 另一位用户在同一讨论帖里写道:“它以极其随机的方式修改了与任务完全无关的代码。”

还有一个被反复引用的案例:一位开发者在OpenCode里用Preview分析五个C#类,约20分钟后仍未完成,反复循环。

Hacker News上的讨论也出现了另一种质疑。有评论者用了几句基础提示词之后写道:“尽管基准结果看起来不错,但它给人的感觉很笨,直觉告诉我这是benchmaxed,然后被尽快推出来了。”

这些反馈针对的绝大多数是9月下旬到10月期间的Preview版本。11月2日的正式版是否修掉了循环和破坏性修改,截至目前的公开证据,答案是“尚未得到验证”——没有独立实验室重新测试正式版检查点。

美团在社区供稿里提到,正式版在训练中对重复思考和重复工具调用施加了额外惩罚,对过度思考通过重新分配正样本Reward来抑制。这说明团队意识到了问题,也做了针对性优化。但“做了优化”和“被独立验证有效”之间,还差一次第三方复测。



API便宜是真便宜,但“限时”和“循环”会一起吃掉这个便宜

如果你不想碰部署,API是目前最现实的入口。

LongCat-2.5的API兼容OpenAI Chat Completions、OpenAI Responses和Anthropic Messages三种接口。接Claude Code只需要在 ~/.claude/settings.json 里把 ANTHROPIC_BASE_URL 指向 https://api.longcat.chat/anthropic ,模型映射到 LongCat-2.5 就行。

价格是它最直接的竞争力。限时价:输入$0.30/百万Token,缓存读取$0.006,输出$1.20**。DeepSeek V4 Pro的非高峰价是输入$0.66、输出$1.98,高峰翻倍。LongCat-2.5的输入价格不到DeepSeek V4 Pro非高峰价的一半,输出也便宜了约40%**。

但有两个账要算清楚。

第一,这个价格是“限时折扣”,官方没有公布结束日期。你按这个价格做成本规划,促销结束之后账单会变。

第二,循环问题会把“便宜”烧成“昂贵”。 一个任务如果陷入反复调用,$0.30的单价乘以几十次甚至上百次重复,总成本会远远超过一个单价更高但“一次做对”的模型。aireiter的评测写得很直白:“Preview用户报告的循环问题,可能让原本便宜的Token变得昂贵。”

API适合的场景是:你已经有一套验收标准,能在Agent跑偏的时候及时拦住它。 如果你打算把它放进无人值守的夜间任务,先解决“循环怎么检测、怎么中止”这个问题,再谈省钱。



和DeepSeek V4 Pro放在一起,怎么选

两个模型的参数规模几乎对齐:LongCat-2.5是1.6T总参/480亿激活,DeepSeek V4 Pro是1.6T/490亿激活。它们真正的差异不在跑分,在你打算怎么用它。

如果你需要自部署,并且手上有国产算力集群:LongCat-2.5是目前少数在国产加速器上做了全链条适配、并且给出W4A4量化路径的万亿级开源模型。DeepSeek V4 Pro的权重同样开源,但它的生态和工具链更多围绕英伟达环境展开。在“国产卡上训、国产卡上跑”这件事上,LongCat-2.5的工程完整度更高。

如果你走API、按量付费:LongCat-2.5的限时价格更低,但DeepSeek V4 Pro的可靠性记录更成熟。用LongCat-2.5做探索性任务、用DeepSeek V4 Pro做生产任务,是一个在当前信息下比较务实的组合。

如果你只是个人开发者、想“把万亿模型跑起来”:两个都别碰本地部署。用API,先跑通你的工作流,再评估值不值得为“数据不出门”去投入硬件。

LongCat-2.5是一份工程上非常扎实的答卷:它证明了国产算力可以训出万亿参数模型,SFT吞吐的提升是真实的,四项评测的第一也是真实的。但它同时证明了另一件事:“开源”解决的是“谁能用”的许可问题,不解决“谁用得起”的硬件问题,也不自动解决“用起来靠不靠谱”的工程问题。

MIT协议给了你自由。1070GB显存给了你门槛。Preview的循环记录给了你一个必须自己验证的问号。这三件事加在一起,才是LongCat-2.5完整的样子。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

IT之家
2026-11-21 18:55:05
法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

小徐讲八卦
2026-11-22 08:09:49
重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

曼巴体育6
2026-11-22 18:14:53
《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

游民星空
2026-11-22 12:11:17
四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

农民日报
2026-11-21 19:13:51
这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

老钱道古今
2026-11-22 08:50:30
媒体造神,从删掉"交易额"开始

媒体造神,从删掉"交易额"开始

鲁先生的笔
2026-11-21 21:51:20
玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

抽象派大师
2026-11-22 01:39:07
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

LULU生活家
2026-11-21 14:45:18
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

遁走的两轮
2026-11-22 14:00:37
178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

江山挥笔
2026-11-21 11:30:34
“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

一丝不苟的法律人
2026-11-20 11:43:40
2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

笑谈文史
2026-10-18 20:35:15
妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

千秋文化
2026-07-14 19:32:44
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

大西体育
2026-11-21 21:46:18
A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

股侠指北针
2026-11-22 17:56:35
H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

互联网.乱侃秀
2026-11-21 11:23:44
11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

虎哥闲聊
2026-11-21 21:35:58
2026-11-22 18:51:00
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
134文章数 16关注度
往期回顾 全部

数码要闻

三星的内存产能至2029年已几乎全部预订一空 客户正寻求直至2031年的供货协议

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
房产
手机
游戏
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

手机要闻

星芒OSTA O1 Pro新机确认支持华为自研Wi-Fi 7+芯片级协同技术

PC Gamer试玩GTA6百小时:双主角出色但任务重复

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版