DeepSeek突然交出了焚决。
10月20日,DeepSeek宣布把内部推理框架DeepInfer全面开源。
据DeepSeek介绍,DeepInfer推理框架集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台。
此外,配套的生产级Token编解码组件deepseek-recipe也在昨日一并放出,与DeepSeek官方API处理逻辑完整对齐。
![]()
除了代码,DeepSeek还在知乎发出技术长文,在GitHub挂出部署问答,把这套系统从架构设计到部署细节讲了一遍。
至于开源的原因,DeepSeek给出了理由很直白:坚持大模型普惠,“为善与众行之,为巧与众能之”。
DeepSeek称,希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。
事实上,坚持开源、实现普惠这个口号,DeepSeek已经践行了三年。
2023年11月,DeepSeek发布第一个模型DeepSeek-Coder,完全开源、免费商用。那时候DeepSeek还只是幻方量化旗下一个不太起眼的新团队。
换句话说,这家公司从第一天起,就没打算把模型锁在自家服务器里。
2024年12月,DeepSeek-V3同步开源,技术报告最震惊行业的就是性价比:总训练成本约557.6万美元,性能却比肩当时的闭源头部模型。
2025年1月,DeepSeek-R1开源模型权重,推理成本仅为OpenAI o1的几十分之一。
2025年2月是DeepSeek的“开源周”,五天连开五个代码库:高效解码内核FlashMLA、MoE通信库DeepEP、矩阵计算库DeepGEMM、并行策略DualPipe与EPLB,以及3FS文件系统。
此后,DeepSeek又陆续开源了用于开发高性能算子的TileLang 编译工具链和多个推理算子库;今年9月底,还把这套工具对照着做了一份华为昇腾版本,与英伟达平台的组件一一对应。
那么,昨天开源的推理框架DeepInfer为什么会再一次引起行业震动?
因为推理框架对大模型至关重要。DeepSeek解释,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,还取决于一个长期未被公众了解的中间层:推理框架。
训练使模型学有所成,推理则让模型为人所用。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,其效率直接决定了 AI 服务的算力成本与电力消耗。
基于DeepInfer,DeepSeek已实现DeepSeek V4.1 Flash高吞吐(单一集群一天的吞吐量达到155万亿Token)、低延迟的大规模推理服务。
“全民的DeepSeek”
,“效能优先、成本门槛优先、现实应用优先”是梁文锋团队一直坚持的选择。
,开源模型对闭源模型的冲击:闭源模型的护城河是技术的稀缺性,用户愿意为此买单。“只有最贵的模型才能干最难的活”,这是Anthropic最根本的商业逻辑和优势。
但当开源模型可以更低的价格提供相似的性能时,闭源模型的高毛利叙事就讲不下去了。这可能是硅谷和华尔街精英们目前最焦虑的事情之一。据路透社报道显示,投资者对 AI 公司高估值和成本膨胀的担忧正在加剧。
在DeepInfer开源当天,DeepSeek资深研究员Deli Chen在X平台转发官方开源公告称:“开源对闭源。光明对黑暗。一场关乎人类两种未来、两种命运的决战。无论他们想打多久,我们都会奉陪到底。直到彻底胜利。”
![]()
更早之前(今年9月)DeepSeek工程师刘胜与发表的文章《我不得不把才华埋葬在昨天》,在多个社交媒体刷屏。
他在文章里判断,伴随着AI的发展,未来的社会可能会趋向于两个极端:共产主义与赛博朋克2077(《赛博朋克2077》游戏,世界观设定是科技高度发达,但社会严重堕落)。
在前者中,生产力得到极大的解放,人们的生活水平有了明显的提高;而在后者中,少数科技公司控制着大部分资源,只有极少数人能够使用最先进的AI和各式科技,获得接近“机械飞升”的效果,大部分人则只能用上很孱弱的AI。阶层跨越将越来越难实现:你得先有最强的AI,才能跨越阶层,形成了一种死循环。
刘胜与认为,最前沿的智能应该以一种开放、廉价的方式,供应给所有人。这也是为什么他选择并坚持留在了DeepSeek,因为DeepSeek研究强大、快速、普惠的人工智能并将其开源,“或许能把世界从2077那端拉回来一些”。
![]()
在文章中,他还表达了自己的忧虑:如果 Anthropic 公司永远掌握着这个世界上最先进的 AI,未来社会是会变成共产主义还是2077呢?
他甚至直白的表示,自己不信任Anthropic或者OpenAI能这样做,特别是不希望Anthropic掌握最先进的人工智能或AGI,“夸张点说其严重性不亚于让希特勒先于盟军掌握原子弹技术”。
值得一提的是,文章刷屏后,刘胜与随后发布补充说明澄清:写作初衷并非表达对饭碗的焦虑,也不是想强调DeepSeek的开放普惠与别家的不讨喜。
但他并没有收回文章里的另一层立场,即他仍然相信,最前沿的智能不该被极少数商业机构垄断,而应以开放、普惠的方式提供给全社会。
事实上,我们回看今年4月DeepSeek V4官宣文案和技术文档会发现,区别于其他大模型不计成本堆料式追求顶尖生成效果,DeepSeek V4在设计上的特点就是践行普惠:
降低部署和使用的成本存算分离的MOE架构,兼顾全局和重点的CSA、HCA混合注意力机制,全面转向国产算力卡,以及预制的Agent、世界知识、世界顶级推理性能。
当然,对于DeepSeek这次开源,业内也有不同的声音。
有观点认为,DeepSeek这次开源是有边界的。因为开源版本只提供离线推理,KV 缓存存储、Prefill/Decode 分离调度、跨节点负载均衡这些在线服务的关键组件,因与内部基础设施耦合过深,并未完整开放。
但开源仍会持续,未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。
并且,开源这条路上,DeepSeek并非孤军奋战。
今年7月,Kimi K3发布。在Arena前端代码竞技场,它以1679分的成绩登顶全球第一,超越了Claude Fable 5(1631分)和GPT-5.6 Sol(1618分)。这是开源模型历史上第一次在权威编程榜单上压过所有闭源对手。
这场AI竞速中,目前Anthropic忙着拯救估值、全力冲刺上市;OpenAI忙着私募、储备更多弹药;但也有公司在备战的同时,没有忘记“Open AI”的初衷。
希望我们能走向AI的世界,也走向“真正普惠的未来”。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.