网易首页 > 网易号 > 正文 申请入驻

DeepSeek开源推理框架,我们离“赛博朋克2077”又远了一点

0
分享至

DeepSeek突然交出了焚决。

10月20日,DeepSeek宣布把内部推理框架DeepInfer全面开源。

据DeepSeek介绍,DeepInfer推理框架集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台。

此外,配套的生产级Token编解码组件deepseek-recipe也在昨日一并放出,与DeepSeek官方API处理逻辑完整对齐。


除了代码,DeepSeek还在知乎发出技术长文,在GitHub挂出部署问答,把这套系统从架构设计到部署细节讲了一遍。

至于开源的原因,DeepSeek给出了理由很直白:坚持大模型普惠,“为善与众行之,为巧与众能之”。

DeepSeek称,希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。

事实上,坚持开源、实现普惠这个口号,DeepSeek已经践行了三年。

2023年11月,DeepSeek发布第一个模型DeepSeek-Coder,完全开源、免费商用。那时候DeepSeek还只是幻方量化旗下一个不太起眼的新团队。

换句话说,这家公司从第一天起,就没打算把模型锁在自家服务器里。

2024年12月,DeepSeek-V3同步开源,技术报告最震惊行业的就是性价比:总训练成本约557.6万美元,性能却比肩当时的闭源头部模型。

2025年1月,DeepSeek-R1开源模型权重,推理成本仅为OpenAI o1的几十分之一。

2025年2月是DeepSeek的“开源周”,五天连开五个代码库:高效解码内核FlashMLA、MoE通信库DeepEP、矩阵计算库DeepGEMM、并行策略DualPipe与EPLB,以及3FS文件系统。

此后,DeepSeek又陆续开源了用于开发高性能算子的TileLang 编译工具链和多个推理算子库;今年9月底,还把这套工具对照着做了一份华为昇腾版本,与英伟达平台的组件一一对应。

那么,昨天开源的推理框架DeepInfer为什么会再一次引起行业震动?

因为推理框架对大模型至关重要。DeepSeek解释,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,还取决于一个长期未被公众了解的中间层:推理框架。

训练使模型学有所成,推理则让模型为人所用。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,其效率直接决定了 AI 服务的算力成本与电力消耗。

基于DeepInfer,DeepSeek已实现DeepSeek V4.1 Flash高吞吐(单一集群一天的吞吐量达到155万亿Token)、低延迟的大规模推理服务。

“全民的DeepSeek”

,“效能优先、成本门槛优先、现实应用优先”是梁文锋团队一直坚持的选择。

,开源模型对闭源模型的冲击:闭源模型的护城河是技术的稀缺性,用户愿意为此买单。“只有最贵的模型才能干最难的活”,这是Anthropic最根本的商业逻辑和优势。

但当开源模型可以更低的价格提供相似的性能时,闭源模型的高毛利叙事就讲不下去了。这可能是硅谷和华尔街精英们目前最焦虑的事情之一。据路透社报道显示,投资者对 AI 公司高估值和成本膨胀的担忧正在加剧。

在DeepInfer开源当天,DeepSeek资深研究员Deli Chen在X平台转发官方开源公告称:“开源对闭源。光明对黑暗。一场关乎人类两种未来、两种命运的决战。无论他们想打多久,我们都会奉陪到底。直到彻底胜利。”


更早之前(今年9月)DeepSeek工程师刘胜与发表的文章《我不得不把才华埋葬在昨天》,在多个社交媒体刷屏。

他在文章里判断,伴随着AI的发展,未来的社会可能会趋向于两个极端:共产主义与赛博朋克2077(《赛博朋克2077》游戏,世界观设定是科技高度发达,但社会严重堕落)。

在前者中,生产力得到极大的解放,人们的生活水平有了明显的提高;而在后者中,少数科技公司控制着大部分资源,只有极少数人能够使用最先进的AI和各式科技,获得接近“机械飞升”的效果,大部分人则只能用上很孱弱的AI。阶层跨越将越来越难实现:你得先有最强的AI,才能跨越阶层,形成了一种死循环。

刘胜与认为,最前沿的智能应该以一种开放、廉价的方式,供应给所有人。这也是为什么他选择并坚持留在了DeepSeek,因为DeepSeek研究强大、快速、普惠的人工智能并将其开源,“或许能把世界从2077那端拉回来一些”。


在文章中,他还表达了自己的忧虑:如果 Anthropic 公司永远掌握着这个世界上最先进的 AI,未来社会是会变成共产主义还是2077呢?

他甚至直白的表示,自己不信任Anthropic或者OpenAI能这样做,特别是不希望Anthropic掌握最先进的人工智能或AGI,“夸张点说其严重性不亚于让希特勒先于盟军掌握原子弹技术”。

值得一提的是,文章刷屏后,刘胜与随后发布补充说明澄清:写作初衷并非表达对饭碗的焦虑,也不是想强调DeepSeek的开放普惠与别家的不讨喜。

但他并没有收回文章里的另一层立场,即他仍然相信,最前沿的智能不该被极少数商业机构垄断,而应以开放、普惠的方式提供给全社会。

事实上,我们回看今年4月DeepSeek V4官宣文案和技术文档会发现,区别于其他大模型不计成本堆料式追求顶尖生成效果,DeepSeek V4在设计上的特点就是践行普惠:

降低部署和使用的成本存算分离的MOE架构,兼顾全局和重点的CSA、HCA混合注意力机制,全面转向国产算力卡,以及预制的Agent、世界知识、世界顶级推理性能。

当然,对于DeepSeek这次开源,业内也有不同的声音。

有观点认为,DeepSeek这次开源是有边界的。因为开源版本只提供离线推理,KV 缓存存储、Prefill/Decode 分离调度、跨节点负载均衡这些在线服务的关键组件,因与内部基础设施耦合过深,并未完整开放。

但开源仍会持续,未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。

并且,开源这条路上,DeepSeek并非孤军奋战。

今年7月,Kimi K3发布。在Arena前端代码竞技场,它以1679分的成绩登顶全球第一,超越了Claude Fable 5(1631分)和GPT-5.6 Sol(1618分)。这是开源模型历史上第一次在权威编程榜单上压过所有闭源对手。

这场AI竞速中,目前Anthropic忙着拯救估值、全力冲刺上市;OpenAI忙着私募、储备更多弹药;但也有公司在备战的同时,没有忘记“Open AI”的初衷。

希望我们能走向AI的世界,也走向“真正普惠的未来”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
百丈关战役先胜后败,徐向前感慨:还是毛主席英明

百丈关战役先胜后败,徐向前感慨:还是毛主席英明

瀚霖学史
2025-12-31 09:21:17
嘴笨不会说话,背熟这十句能口头禅,走到哪都受人待见

嘴笨不会说话,背熟这十句能口头禅,走到哪都受人待见

闻心品阁
2026-10-24 08:29:14
一直以为的绝密配方原来是大道至简!网友:难怪炖不出店里那个味

一直以为的绝密配方原来是大道至简!网友:难怪炖不出店里那个味

夜深爱杂谈
2026-11-01 19:32:16
刘恺威好爸爸人设崩塌?刘丹意外曝光12岁小糯米独自英国留学!爸爸忙恋爱、妈妈拼事业

刘恺威好爸爸人设崩塌?刘丹意外曝光12岁小糯米独自英国留学!爸爸忙恋爱、妈妈拼事业

露珠聊影视
2026-11-08 18:55:04
一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

怪味历史连连看
2026-09-08 01:55:32
历经两次侵害后女孩满心绝望奋力抵抗,第三次将剧毒涂抹在身上,最后当场毒死了侵害她的男子

历经两次侵害后女孩满心绝望奋力抵抗,第三次将剧毒涂抹在身上,最后当场毒死了侵害她的男子

唠叨说历史
2026-10-20 15:08:09
墨尔本47岁外卖骑手被捅死,只因车被当地homeless踹翻

墨尔本47岁外卖骑手被捅死,只因车被当地homeless踹翻

杭城村叔
2026-11-07 21:39:20
岳飞满江红原版重现天日,学者透露:大众所知的满江红第一句就被改过

岳飞满江红原版重现天日,学者透露:大众所知的满江红第一句就被改过

磊子讲史
2026-10-14 16:53:55
中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

福建睿平
2026-05-25 08:01:59
“已经确定女儿考不上高中了”,家长在线求助,网友:存个18w给她吧

“已经确定女儿考不上高中了”,家长在线求助,网友:存个18w给她吧

熙熙说教
2026-11-05 14:45:22
1949年傅作义宣布起义前,放走了五名不愿跟随的部下将领;三十年后再回看,这五人最终命运各不相同,差距之大令人感慨

1949年傅作义宣布起义前,放走了五名不愿跟随的部下将领;三十年后再回看,这五人最终命运各不相同,差距之大令人感慨

人生录
2026-10-22 00:30:04
纪委倒查追责升级!在职退休一视同仁,5类红线绝不能触碰

纪委倒查追责升级!在职退休一视同仁,5类红线绝不能触碰

细说职场
2026-11-08 18:41:35
曼联4-4绝平维拉,两度崩盘两度续命,深陷降级区8轮不胜

曼联4-4绝平维拉,两度崩盘两度续命,深陷降级区8轮不胜

凉了时光人
2026-11-09 09:09:11
2026年医疗反腐风暴:普通医生的工资卡流水,也会被查吗?

2026年医疗反腐风暴:普通医生的工资卡流水,也会被查吗?

职场资深秘书
2026-11-08 23:38:09
曼联4-4绝平仍陷降级区,上下半场均落后两球扳平!卡里克否认辞职将留任战利物浦

曼联4-4绝平仍陷降级区,上下半场均落后两球扳平!卡里克否认辞职将留任战利物浦

罗米的曼联博客
2026-11-09 07:23:39
世体:卡西不满皇马青训,已经带两儿子离队

世体:卡西不满皇马青训,已经带两儿子离队

懂球帝
2026-11-08 16:59:11
零代价补强!湖人锁定完美替补中锋目标,弹跳怪兽完美适配东契奇

零代价补强!湖人锁定完美替补中锋目标,弹跳怪兽完美适配东契奇

钱说体育
2026-11-09 08:48:23
钱再多有什么用?结婚不到2年,萧敬腾就尝到了“姐弟恋”的苦涩

钱再多有什么用?结婚不到2年,萧敬腾就尝到了“姐弟恋”的苦涩

寻途
2026-11-09 07:10:26
印度留学生的“四个离谱要求”,把中国高校当自家客厅了?

印度留学生的“四个离谱要求”,把中国高校当自家客厅了?

步论天下事
2026-11-08 10:05:12
王思聪女友懒懒游欧洲,五套妆造全在审美点上,老外回头率200%

王思聪女友懒懒游欧洲,五套妆造全在审美点上,老外回头率200%

孤芳自赏的小李
2026-10-05 19:56:18
2026-11-09 09:36:49
科技浮世绘 incentive-icons
科技浮世绘
文字是假的,热爱是真的
314文章数 8关注度
往期回顾 全部

科技要闻

马斯克:“中国太棒了,我爱中国”

头条要闻

菲外交部罕见批评本国官员涉华言论 或在敲打菲防长

头条要闻

菲外交部罕见批评本国官员涉华言论 或在敲打菲防长

体育要闻

见证奇迹!中超冠军属于大连

娱乐要闻

敬一丹女儿追忆母亲:她被世界铭记

财经要闻

一场由得州引发的股灾

汽车要闻

503.17km/h!中国超跑这次真把天花板捅穿了!

态度原创

亲子
时尚
本地
房产
家居

亲子要闻

着床成功,身体会有什么反应?

想和热巴成为双胞胎之我尽力了!

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

最后十多套 这个海甸岛一线江景盘即将收官 有漏可捡!

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版