墨芯人工智能(以下简称"墨芯")近日宣布完成近10亿元人民币C+轮融资。本轮融资由仁爱资本、海棠基金、东恒石油及其他国内一线产业方,以及比丘资本、派拉资本、中财资本等知名国资及财投机构共同参与。资本的连续加注,反映出市场对稀疏计算在提升推理经济性方面价值的关注度正在上升;墨芯长期坚持的稀疏计算路线,也正迎来更加明确的市场窗口期。
当前,推理经济性正在成为大模型规模化部署的核心命题。需求端,推理负载正在快速增长。据国家数据局披露,今年3月我国日均Token调用量已超过140万亿,较2025年底增长40%多。随着Agent类应用铺开,持续性的推理负载使运行成本成为企业长期投入的重要组成部分;供给端,智算中心的电力供应、能耗指标和基础设施投入约束也更加突出,单纯依靠增加硬件规模来满足持续增长的推理需求,成本压力正在上升。
供需两端的变化,正在推动企业重新审视算力基础设施的投入产出效率:相比单纯追求峰值性能,在既定成本与能耗预算下能够交付多少有效推理吞吐,正变得愈发重要。每Token成本、能效和总拥有成本(TCO),也成为衡量推理算力经济性的关键指标。
对此,墨芯提升推理经济性的技术路线,是从计算源头减少无效运算:依托长期深耕的稀疏计算,通过权重与激活的双稀疏优化,识别并跳过不必要的运算,从而让同等硬件投入承载更多有效推理任务。
此外,大模型底层算力演进也在持续释放对稀疏计算的需求。随着MoE架构加速应用,大模型推理呈现出更明显的条件计算与稀疏化负载特征,对底层算力高效承接此类负载提出更高要求。
然而,墨芯的整体优势要兑现为产品性能,必须跨过工程这一关。算力需求演进为架构级别的突破,并不是单纯的软件优化,而是涉及算法、芯片架构、编译器与软件工具链的系统工程——算法层识别出的稀疏模式,需要芯片架构高效承接,再经编译器与工具链落地到实际业务。若软硬件之间匹配不足,理论上的计算节省便难以转化为实际性能收益。这套系统工程能否跑通,最终要靠量产和真实业务运行效果来检验。
墨芯核心团队具备多款芯片量产经验,并形成了“算法—软件—硬件”协同设计能力,已将双稀疏从算法层推进到芯片架构和落地产品。正是做到了这一点,墨芯的“少算”才能真正转化为算力效能,而不是停留在理论层面。这一工程化能力在产品性能上得到了验证:S30、S40等计算卡已在AI基准测试MLPerf™ Inference中连续三届夺冠,在视觉、自然语言处理、大模型等主流模型任务上展现出领先的能效比与单位算力推理吞吐量。
目前,稀疏计算带来的算力效能优势正在真实业务场景中得到验证。墨芯基于自研芯片构建的推理集群,已在西北、西南、华东、华北四大片区实现规模化部署。其中,西北地区已落地千卡级推理集群,重点服务电子制造、消费品加工场景下的厂区安防、机器视觉检测等实时AI业务。在某制造业算力集群案例中,据墨芯披露,其整体解决方案成本较该项目对比的其他方案低约30%至50%。
此外,墨芯参与上海国资平台公司打造的海上算力Token工厂。针对该项目在利用海上风电绿电与海水冷却降低PUE及电费成本后,通用GPU推理成本仍可能抵消绿电红利的问题,墨芯凭借稀疏架构优势,结合算力混合异构模式,从芯片侧降低单Token推理成本,实现“绿电降本”与“算力架构降本”的优势叠加。
在时空AI与时空大数据领域,墨芯进一步验证了稀疏计算对推理效率的改善。墨芯与北京大学上海临港国际科技创新中心地球与空间技术研究院合作,基于自研稀疏化技术,完成了两款国际主流遥感影像智能分析基础模型在墨芯算力卡上的适配与实测。实测结果显示,在几乎不损失业务精度、无需对下游任务重新训练的条件下,推理吞吐最高提升2.88倍,模型压缩最高达7.64倍,有效降低了大规模遥感影像解译的算力消耗与处理时间。
同时,墨芯还通过持续产品迭代,把稀疏计算的技术优势进一步转化为更高的算力效能和更低的使用成本。产品迭代层面,新一代板卡产品SP200将在年底前正式问世。适配生态层面,墨芯升级版软件栈SECA(Sparse-native Efficient Computing Architecture)稀疏原生高效计算架构即将发布,将强化对大模型推理部署与集群运维的支持,进一步降低模型迁移和部署门槛。
除市场需求持续增长外,政策层面对稀疏计算的支持也在进一步强化,“墨芯路线”有望迎来新的发展机遇。近期,工业和信息化部、国家发展改革委联合印发的《电子信息制造业发展“十五五”规划》,明确将动态稀疏计算列为人工智能芯片关键技术攻关创新方向,并提出布局软硬耦合推理芯片等新路线。
早在这一规划发布之前,墨芯便已深入产学研,持续推动稀疏计算的产业化进程。今年8月,墨芯发起成立了稀疏计算产学研联盟,加速稀疏计算从“小众先锋”走向“主流选择”,推动前沿研究成果向工程化、产业化转化。目前,该联盟已与复旦大学、清华大学、西安交通大学、南开大学等高校启动多项联合课题研究,相关阶段性成果将于近期发布。
过去几年,AI算力竞争更多围绕“更强的芯片、更大的集群”展开,而随着推理规模化,算力竞争正在进入另一个阶段:决定效率的不再只是芯片能提供多少算力,还包括这些算力能否被更充分地利用。也正因此,稀疏计算正在成为AI基础设施开启下一轮效能跃升的重要路径之一。墨芯在这一路线上的长期深耕,有望进一步降低AI规模化应用的门槛,让不断增强的模型能力在更多行业转化为真正的生产力。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.