网易首页 > 网易号 > 正文 申请入驻

DeepSeek“推倒重来”

0
分享至



DeepSeek V4.1 Flash发布后,不仅速度变快,而且内容更准确,还有原生多模态。

全网对DeepSeek V4.1 Flash好评如潮,梁文锋再次被奉为“梁圣”。

相较于V4 Flash,V4.1 Flash最大的特点是推倒重来,采用了和V4 Flash完全不同的非对称结构。

这也就是说,V4在结构上积累的训练配方、优化技巧、工程适配,到了V4.1这里,大部分都作废了。

现在的DeepSeek早就不是一家小作坊了,而是一个拥有数百名员工的企业,想要重起一个新的结构不仅费时,还很费力。即便如此,梁文锋也要狠下心,对V4推倒重来。

新结构听起来确实很像一个营销用的噱头,不过答案其实就在DeepSeek V4.1 Flash的官方论文当中,DeepSeek的旧架构,已经装不下新的训练目标了。

那么这个新的目标又是什么呢?我认为,很可能是“入口”。

01

DeepSeek为什么要推倒重来?

通常来讲,先有模型,后有Harness。厂商根据模型的能力和特点来构建Harness。然而DeepSeek V4.1 Flash却是被DSH给“反哺”出来的。

官方论文表示,V4.1 Flash的后训练遵循标准的SFT→ RL→ 在线蒸馏(OPD)范式,没有任何算法改动。关键的地方在于,所有实质性变化都在数据流水线当中,大规模自动合成Agent任务与环境,数据、任务、rollout渐进式扩增。

RL训练时让模型在6种不同的Agent框架里反复试错,数据量、任务种类、试错轮次一路放大。DSH是这6个训练场里最重要的一个,V4.1 Flash还专门针对DSH的不同操作模式做了定向训练。

DSH从DeepSeek V4 Pro的伴生产品,摇身一变成了V4.1 Flash的老大哥。

为了满足DSH的偏好,DeepSeek V4.1采用了全新的结构。

论文里是这么介绍的,新结构让模型在prefill阶段每token只需要激活8B的参数、decode阶段激活16B,进而大幅改善“输入密集的agent工作负载”的成本效率。

为什么“输入密集”会成为麻烦?

过去的模型结构是为"聊天"设计的,用户问一句,模型答一句。这就造成了输入短、输出长,模型只会记住当前这一轮对话的上下文。

但在Agent时代,几十轮的中间状态一直挂在上下文里,输入动辄几十万token,远大于输出。

2026年4月,密歇根大学、斯坦福大学等院校联合发布论文《AI是怎么花你钱的?》(How Do AI Agents Spend Your Money?),其中就提到这样一件事,在agentic代码任务中,输入与输出的token比高达154:1。

于是DeepSeek选择推倒重来。V4.1 Flash采用了非对称结构Causal-Encoder-Decoder(CED)。

V4.1 Flash的语言主干共40层,如果按照以前的Transformer(decoder-only)那样,这40层应该是一模一样的。每一层都同时负责“读”和“写”,同时处理给它的输入,也处理输出,而且每一层都要自己攒一份KV Cache。

CED的“非对称”,指的是把这40层拆成前20层编码器、后20层解码器,编码器只负责“读”,把输入压成摘要,解码器只负责“写”,照着摘要生成回答。

就像汽车的流水线一样。过去是一个车间完成所有活,想增加产能就得一直复制这一个车间。现在是流水线,冲压车间就负责冲压,电泳车间就负责电泳。



并且记忆只产生一次,解码器的全局KV Cache直接从编码器的最终结果投影出来。DeepSeek V4.1 Flash的全局KV Cache压到了890字节/token,降低至V4 Flash的1/4。

这是因为DeepSeek V4.1 Flash采用了CSA2(Compressed Sparse Attention 2),第二代压缩稀疏注意力。

V4的时候DeepSeek使用的是第一代CSA,到了第二代,可以让不同层之间共享KV和索引,也就解决了前面所提到的痛点。

依然是像汽车流水线一样,CSA2中把这40层分成了三个不同的车间,分别为Full、Reindex和Reuse。

Full负责完整记录,就像传统Transformer的每一层一样。Reindex负责提炼重点,再根据提炼的结果做事。Reuse则直接照着Full的技术抄,连提炼都省了。

虽然说除了第一层用Full,剩下39层全用Reuse是最节省成本的做法,但每层关注的重点不同,能力也不同,浅层做的是“字面理解”,深层做的是“逻辑推理”,它们需要的上下文内容不同。如果全用Reuse只会生成没有价值的回答。

去年还是先有车、再修路,今年已经是先修路,再造车。

模型性能强弱、性价比高低,都不是叙事的核心,唯有掌握了入口,才能吸引更多用户。

但梁文锋不是第一个这么做的,姚顺雨的Hy4 preview走在他之前。

Hy4 preview官方技术报告里表示,通过腾讯内部的软件工程师、游戏开发者、金融分析师、安全专家,围绕他们真正交付的工作共建数据,再和CodeBuddy、WorkBuddy这些产品共同设计。

在163名内部专家参与的203个真实工程任务盲测中,Hy4 preview平均2.99分,GLM-5.3是2.92,Kimi K3是2.94。

入口的重要性不言而喻,腾讯产品矩阵的优势得以发挥。

DSH和WorkBuddy本质上是一种产品闭环,是整条训练流水线的一部分。

有意思的是,2026年7月24日,腾讯撤销大语言模型部和多模态模型部,合并成立基础模型部,姚顺雨统一负责。他将混元多模态的发展重点,放在了Agent强相关的多模态理解上,和梁文锋此前对多模态的看法一致。

现如今,梁文锋又在模型上靠拢了姚顺雨,互相学习。

02

智谱与Kimi有类似的闭环吗?

智谱和月之暗面这两家不是没有工具,Kimi有Kimi Claw,智谱也有ZCode、AutoClaw和GLM Coding Plan。

但这些工具没办法像DSH和WorkBuddy那样“反哺”模型。智谱和Kimi的工具是后挂的外壳,模型先在合成环境里练好,再做个产品给用户用。

智谱现在把所有精力都放在了模型自进化上。8月31日,在智谱半年度业绩会上,唐杰首次明确表示,GLM-6.0是一款Full Self-Training(完全自训练)模型,与OpenAI的RSI(Recursive Self-Improvement,递归自我改进)相似。

唐杰表示,从预训练、中训练到后训练,全流程让模型自己训自己,不再靠人写代码、清洗数据、调参、设计实验。人只负责给模型定目标,以及做最后的验收工作。

在GLM-5.3上,智谱就已经展示过他们自进化方法的一部分了。GLM-5.3和5.2使用的基座相同,但是性能却大幅提升。

具体情况是这样的,GLM-5.3建了一套端到端的任务环境合成流水线,Agent从真实世界的软件工程和终端操作场景收集种子任务,接下来模型自己头脑风暴,生成大量可验证的任务草稿,再构建做题用的Agent,把这些草稿实例化成具体的可运行环境。

将Agent输出的回答进行精炼,根据研究员定义的评分标准,检查并迭代优化任务质量。

最终就产出了数千个多样化、可验证的终端Agent环境。GLM-5.3的长程任务环境数量是GLM-5.2的几十倍,而且都是Agent自己建的。



月之暗面走的是“在自建合成环境里把Agent能力练到极致”的路线,相当于是闭关修炼。

具体做法是通过AgentENV来完成模型的训练,这是基于Firecracker微虚拟机的分布式沙箱系统,

在K3训练期间跑了5100万个沙箱,支持暂停、恢复、复制、快照,专门解决长程Agent强化学习里“任务跑不完、环境容易污染”的基础设施难题。

Agent的强化学习训练和普通大模型RL不一样。普通RLHF就是给模型一个prompt,模型生成一段回答,打个分,更新参数。环境是无状态的,跑完就完了。

但Agent训练不一样。模型要在一个真实的运行环境里干活,一个任务可能跑几十步甚至几百步,持续几分钟到几小时。

如果在干活过程中,模型发现缺少某个依赖,那么它会为了完成任务,自己在沙箱里装个依赖、改个配置文件。

虽然任务完成了,不过这个环境也就改变了,即环境被污染了。那么下一轮训练不能接着用,得重新起一个干净环境。重起的过程大约需要几秒,虽然不长,可大规模训练时就会浪费大量时间。

就像学开车一样,如果你一上来就从科目三开始,那必定会成为马路杀手。所以就需要驾校,准备一个不会有行人和来往车辆的空地,练习起步、上坡和侧方停车。

AgentENV就是Kimi的驾校,让Kimi可以在训练时大展拳脚,还不会受到环境因素的影响。

所以智谱和月之暗面不是没有闭环,只是这个闭环没有触达外界,练得再好也是闭关修炼。

DSH和WorkBuddy的是入口,用户在真实环境里干活,数据自然回流,模型在实战里被养大。

03

梁文锋要抢入口

就在DeepSeek V4.1 Flash发布的同时,DSH也宣布更新到了v0.1.5版本。新版为插件作者提供了更多标准化的UI扩展入口,新增了文件上传、侧边栏文件预览等功能,优化了UI的性能与交互,并持续增加与模型研究前沿深度结合的实验性功能。

DSH在刚发布的时候,与其说它是一个产品,倒不如说它是一个属于极客的玩具。就连安装都能难倒一大片。

DSH的理念是一切皆插件,需要用什么插件,DSH自己安装,用完了再删除。结果就是真正好用的插件,全是社区提供的,包括连UI都是。

到了0.1.5版本,DSH已经从“框架”逐渐蜕变成了“产品入口”。除了适配V4.1 Flash以外,全是终端用户产品功能。

举个例子,0.1.5版本中,Agent可以显式交付文件。生成的代码、文档、分析报告直接作为文件出现在侧边栏,用户可以预览、打开、定位到本地文件夹。

以前的DSH里,Agent只能输出文字和代码到回答框里,用户必须得亲自复制粘贴到文件里才行。

不仅如此,新版本还有一个极其实用的功能,叫做“支持在保留已有KV Cache的情况下更新系统提示词”。

传统Agent有个痛点,长会话跑到一半,你想改系统提示词,比如让Agent从“写代码模式”切换到“写文档模式”,那就必须清掉整个KV Cache重新prefill。

在1M上下文的前提下,切换系统提示词,就意味着Agent要花几十万甚至上百万token去重新规划任务。

所以现有Agent产品基本不允许中途改系统提示词,Agent的角色和目标从会话开始就锁死了。

这就说明,DeepSeek在有意识地把DSH从“极客工具”往前推,让它成为一个面向更多用户的Agent产品。核心目的就在于扩大入口,放更多人进来。



现在的DeepSeek,反而有点像卖剃须刀的吉列。它的刀架不赚钱,甚至免费,它主要挣的是刀片的钱。可真正锁定客户的反而是刀架。

DeepSeek也一样,想换新模型,复制粘贴一段API Key就完事了。但是想换新Harness,那得需要适应很长一段时间。

所以DSH大量优化用户体验,不仅仅是为了继续“反哺”未来的DeepSeek V4.1 Pro,乃至5、6、7、8,更是为了抢占入口。

DeepSeek已经在朝着“入口公司”看齐了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
3大瓜!翟天临当爸、郭麒麟结婚、劣迹网红复出捞金,风波不断

3大瓜!翟天临当爸、郭麒麟结婚、劣迹网红复出捞金,风波不断

两只米老鼠
2026-10-18 18:10:00
医生在救人,手机却被患者偷了!十几万的纤支镜也被“顺走”,医院不是法外之地!秩序不能只靠医生维护,需要真正加强安保

医生在救人,手机却被患者偷了!十几万的纤支镜也被“顺走”,医院不是法外之地!秩序不能只靠医生维护,需要真正加强安保

梅斯医学
2026-10-19 07:55:46
别等失去了才后悔。 厦门小伙暗恋高一班主任多年,大学毕业后果断追娶回家,祝有情人终成眷属

别等失去了才后悔。 厦门小伙暗恋高一班主任多年,大学毕业后果断追娶回家,祝有情人终成眷属

捣蛋窝
2026-10-03 09:50:51
穆帅一石二鸟,妙手解决皇马中场顽疾!巴尔韦德移镇右后卫,皇马4:1大胜,穆帅称赞巴尔韦德全能!

穆帅一石二鸟,妙手解决皇马中场顽疾!巴尔韦德移镇右后卫,皇马4:1大胜,穆帅称赞巴尔韦德全能!

福酱的小时光
2026-10-19 08:14:16
现场画面曝光!法国多地LV、劳力士门店被洗劫一空,爱马仕、苹果、丝芙兰等门店也成目标

现场画面曝光!法国多地LV、劳力士门店被洗劫一空,爱马仕、苹果、丝芙兰等门店也成目标

都市快报橙柿互动
2026-10-18 15:39:35
一个家庭最大悲哀,就是人到70多岁,却还在和外人随便说6件事!

一个家庭最大悲哀,就是人到70多岁,却还在和外人随便说6件事!

游戏收藏指南
2026-10-17 04:48:23
《伟大的长征》直到李德在会议上苦苦挣扎,才懂老蒋节节败退的深层逻辑

《伟大的长征》直到李德在会议上苦苦挣扎,才懂老蒋节节败退的深层逻辑

天玑影视说
2026-10-19 16:02:31
蒋劲夫回应太瘦了被说显老:无所谓啊,脸就一张皮要那么好看干啥

蒋劲夫回应太瘦了被说显老:无所谓啊,脸就一张皮要那么好看干啥

观鱼听雨
2026-10-17 23:48:03
国家德比:巴萨冲击皇马58年巅峰纪录,欲让皇马做垫脚石

国家德比:巴萨冲击皇马58年巅峰纪录,欲让皇马做垫脚石

林子说事
2026-10-19 14:58:32
演员张佳宁连续两月被拍到挺孕肚现身,本人及工作室均未正面回应;此前表示结婚会公开,受父母婚姻影响称坚决不会离婚,未来生两个孩子

演员张佳宁连续两月被拍到挺孕肚现身,本人及工作室均未正面回应;此前表示结婚会公开,受父母婚姻影响称坚决不会离婚,未来生两个孩子

台州交通广播
2026-10-17 12:49:57
不透露爆燃手机的品牌,是想拉其他家下水吗?

不透露爆燃手机的品牌,是想拉其他家下水吗?

走读新生
2026-10-19 13:22:05
“他的智商已经不是普通人了”,宝妈公开厌恶天才儿子:只想揍他

“他的智商已经不是普通人了”,宝妈公开厌恶天才儿子:只想揍他

泽泽先生
2026-08-06 11:01:17
殡葬师曾忠告:不办仪式、当天火化的一日丧,决定前先想清这3点

殡葬师曾忠告:不办仪式、当天火化的一日丧,决定前先想清这3点

糖逗在娱乐
2026-10-18 05:33:56
2014年,山西一个六十岁的老汉,杀了全村唯一不嫌弃他的人——那个常给他送吃送喝的远房侄媳妇

2014年,山西一个六十岁的老汉,杀了全村唯一不嫌弃他的人——那个常给他送吃送喝的远房侄媳妇

扶苏聊历史
2026-09-29 15:32:03
握着王毅外长的手,拉夫罗夫亲口承诺,全力托住中方11月的重头戏

握着王毅外长的手,拉夫罗夫亲口承诺,全力托住中方11月的重头戏

司马平邦
2026-10-18 19:04:38
演都不演了!电影节上,周迅获奖她撇嘴满脸不屑,对着镜头翻白眼

演都不演了!电影节上,周迅获奖她撇嘴满脸不屑,对着镜头翻白眼

历史的烟火
2026-10-18 13:03:43
比亚迪新车官宣:10月20日,正式上市

比亚迪新车官宣:10月20日,正式上市

科技堡垒
2026-10-19 11:46:22
“太窒息了,我要是孩子直接跳了”,一顿廉价早餐,让母亲发小作文

“太窒息了,我要是孩子直接跳了”,一顿廉价早餐,让母亲发小作文

熙熙说教
2026-10-12 13:43:52
iPhone Duo乔布斯限量版官宣:10月18日上架,顶配14万元

iPhone Duo乔布斯限量版官宣:10月18日上架,顶配14万元

搞机小帝
2026-10-18 22:30:25
大幅拉升!英伟达、台积电,突传大动作!黄仁勋即将发声

大幅拉升!英伟达、台积电,突传大动作!黄仁勋即将发声

证券时报
2026-10-19 15:38:05
2026-10-19 17:16:49
字母榜 incentive-icons
字母榜
让未来不止于大。
2855文章数 8096关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

男子称入狱20多天被贷款、转走超38万 报警1年多无进展

头条要闻

男子称入狱20多天被贷款、转走超38万 报警1年多无进展

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

旅游
房产
亲子
艺术
军事航空

旅游要闻

西宁下南关:千年古道上的烟火街巷

房产要闻

最新房价:海口,三亚齐跌!

亲子要闻

0903+科普-5个民间“怀孕谣言”

艺术要闻

缅怀 | 著名油画家 宋惠民先生逝世,享年89岁

军事要闻

泽连斯基:若乌“被要求”举行战时选举 他将竞选连任

无障碍浏览 进入关怀版