网易首页 > 网易号 > 正文 申请入驻

硬氪首发 | 异构智算平台天使轮融资千万,瞄准英伟达和国产GPU算力调度

0
分享至

硬氪获悉,近日异构智算平台与梯度Token工厂技术服务商博伦智汇完成千万级天使轮融资,投后估值约1.5亿元。本轮融资由专注AI及AI Infra赛道、同时布局过大模型训练框架的一线产业基金投资,将主要用于异构智算核心技术迭代、算力基础设施产品打磨、核心技术团队扩充。

博伦智汇创立于2026年,总部位于北京。CEO刘进治曾任职英特尔亚太研发中心,硅谷分布式系统软件中国负责人,在计算架构与系统软件领域经验丰富。刘进治2016年曾是全球首批专注自然语言处理的AI初创企业核心成员,后参与搭建中国第一批Nvidia Superpod训练集群,支撑大语言模型研发与服务落地。

CTO杨光在西门子通信、Oracle、IBM、华为云等跨国企业先后负责软件研发和系统架构,是云原生研发早期成员。公司核心成员均出自IBM、天数智芯、华为、趋动科技等创新企业,核心团队曾操盘国内第一批英伟达SuperPod训练集群,较早实现国产异构GPU万卡推理。

随着各地智算中心建设风潮,纸面算力规模持续攀升,但许多机柜上架后处于"空转"状态。有芯片不等于有算力,有算力不等于能用。从芯片到输出Token,中间横着几道工程鸿沟。不同架构芯片如何统一纳管?碎片化算力如何调度优化?算力如何按需分级,产出不同价值?

同时,全球AI Token日调用量已突破300万亿次。Agent兴起后,智能体复杂任务增加,单任务消耗Token量动辄十万甚至百万级,算力需求爆涨。全球AI推理芯片市场规模已近500亿美元,推理成本跃升为AI企业最大的运营支出。

刘进治向硬氪介绍,基于这一背景,公司自研了TOLD (Token Oriented Large-scale Distributed architecture)技术栈,将算力优化为梯级Token输出。

刘进治在2023年就进入了智算赛道。“我们在英伟达高端算力禁售前,做了国内第一批英伟达SuperPod,也就是基于英伟达DGX的SuperPod架构,并与头部大模型公司进行了深度合作。”另一方面,他带着团队也较早地介入了国产GPU的生态和技术体系。

受到地缘政治和国产GPU崛起等各种因素,各企业持有的GPU资产非常分散,既有英伟达的GPU,又有不同的国产GPU,“问题在于,这些不同的GPU本身因技术路线等不同没有办法直接协同使用。既能够把它们协同起来,又要做到最优是个技术难题。”

因此,国内企业如何把这些异构的算力资产整合起来并进行调优成为刚需,“而且随着各个企业、国央企积累的GPU资产越来越多、越来越多样化,这会成为一个非常大的需求。”

博伦智汇的自研架构TOLD则可以兼容英伟达及多种国产GPU架构,自研云原生分布式调度技术,实现万卡级异构GPU的统一纳管与推理调度。让不同芯片在同一套框架下按模型效能最优协同工作。面向token及应用,还能提供大模型一键适配、B2B2C多租户创新模式。

刘进治介绍,公司目前已经有签单客户,接下来还会推出硬件产品。以下是硬氪与他的访谈节选:

硬氪:现在大模型阶段,算力主要被用在哪些环节?

刘进治:如果按大模型阶段来看,算力主要分成两大块:大模型训练,以及训练完成之后的推理应用。

现在大模型公司已经比较集中,也有一些国央企自己在训练大模型,但不会对外商业化,只是内部使用,它们的投入也很大。这些公司还在持续大量铺设训练算力。中国优质的训练算力目前大概还不到美国的十分之一,所以训练算力还需要继续追赶。

未来更大的市场是推理,DeepSeek R1带动了真正的推理和AI落地,再加上今年出现的一些新的应用,对Token落地带动了大量推理需求。长期来看,推理需求可能会达到训练需求的十倍甚至百倍以上。随着大量AI应用落地,推理理论上会成为一个更加广泛的市场,也是国产算力能够发挥很大作用的地方。

硬氪:你们自己的TOLD技术栈具体是什么?技术壁垒体现在哪里?

刘进治:它有几个特点,第一是面向Token,让Token做到最快、最优。第二是Large Scale,市场上有很多公司都在讲异构,但我们的特点是真正做过大规模的国产GPU集群。从工程角度来讲,大规模异构和做几台异构完全不一样。比如现在一些最新的国产卡,单卡性能已经逼近英伟达H200,但大模型训练需要上千张甚至上万张卡组成超大规模集群,这种集群的稳定性才是最大的挑战。

另外,我们的集群可以分布在全国甚至全球。实际上,我们拉管过超过10个千卡级别、分布在全国各地的计算中心,达到万卡级别。在这个过程中,我们做了非常多研发。第一层是调度层,我们基于云原生,但会深度修改云原生底层的一些东西。这不是单一的架构,我们需要把云、分布式架构、大规模分布式架构,以及对模型本身的理解融合到产品里面。

目前已经支持超过5种异构GPU,包括英伟达和国产的大规模GPU。

硬氪:目前这种大规模异构平台已经得到验证了吗?主要在哪些场景?

刘进治:我们实际做过超过10个千卡级别组成的万卡级国产GPU集群,类似一个“大网吧”,这个集群真实对外提供服务。后来有一些卡被商业化出租,但我们已经在这个上面完成了验证。

这个场景其实比较通用,可以To B,也可以To C。To B可以给企业内部提供服务,比如一家做AIGC短剧的公司,它需要调用不同的语言模型、多模态模型和生图模型,也可以是具身智能,或者其他泛生态场景。C端则是个人使用,比如个人养“龙虾”,Agent工具调用,codex、claude code等都可以接入我们提供的模型。

硬氪:你看重C端的原因是?后续会有什么样的商业模式?

刘进治:现在大家都在说用不起“龙虾”,因为它白天晚上都要待机跑任务。核心问题是现在还没有做好分层,大家都想一起上最顶的模型,而最顶的模型也意味着后面使用最贵的卡。

但实际上,大量工作比如整理文件、数据,基础模型完全够用了,也就意味着便宜的卡就够了,尤其是国产GPU。

在商业模式上,C端我们首先会自营一部分Token工厂,架设在自己的平台上,我们会做好调试工作,保证用户可以自己选择想要的模型,同时给出最优选。B端我们可以和企业合作,为自己的私有化智算集群提供服务,甚至从头给它设计,看匹配什么样的卡型来满足它的具体场景。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
打通吉隆!“最后一公里,一定要进去”

打通吉隆!“最后一公里,一定要进去”

环球网资讯
2026-09-03 11:42:10
章泽天对话何超琼实录!何超琼:豪门也没有理所当然的机会,压力最大时永远先做最难的事;遇见张国荣梅艳芳等挚友,是自己最轻松的十年

章泽天对话何超琼实录!何超琼:豪门也没有理所当然的机会,压力最大时永远先做最难的事;遇见张国荣梅艳芳等挚友,是自己最轻松的十年

极目新闻
2026-09-03 07:57:42
护照丢失 无缘世界杯!李月汝发声,媒体人3问:这理由让人难信服

护照丢失 无缘世界杯!李月汝发声,媒体人3问:这理由让人难信服

萌兰聊个球
2026-09-03 07:24:26
今年,北京太惨了。。。

今年,北京太惨了。。。

纯洁的微笑
2026-09-03 12:24:06
家长群显摆翻车:我是市人民医院纪委书记

家长群显摆翻车:我是市人民医院纪委书记

原某报记者
2026-09-03 11:14:38
后天起,入户调查!请积极配合

后天起,入户调查!请积极配合

河南交通广播1041
2026-09-03 13:55:37
杨幂若隐若现

杨幂若隐若现

陈意小可爱
2026-09-03 11:52:20
电梯造谣女伏法!舆论再次失控,网友疯狂抵制,关联品牌被拉下水

电梯造谣女伏法!舆论再次失控,网友疯狂抵制,关联品牌被拉下水

社会日日鲜
2026-09-03 11:00:32
免签大门全开了,中国游客这次却集体“调头”!

免签大门全开了,中国游客这次却集体“调头”!

乌克兰小静
2026-09-03 07:59:47
伊朗副总统:当初选择日本车就好了,中国车质量差价格高

伊朗副总统:当初选择日本车就好了,中国车质量差价格高

贱议你读史
2026-09-02 21:21:39
2026年最强反腐来了!中纪委:害群之马将清除到底!

2026年最强反腐来了!中纪委:害群之马将清除到底!

职场资深秘书
2026-09-03 13:09:08
重庆54岁大叔的恒大血泪史:信了世界500强买养老房,到现在还在收拾烂摊子!

重庆54岁大叔的恒大血泪史:信了世界500强买养老房,到现在还在收拾烂摊子!

网易新闻出品
2026-09-03 10:14:30
一而再再而三,皇马必须给我们一个交代!

一而再再而三,皇马必须给我们一个交代!

火锅局
2026-09-02 15:26:22
河北官方回复:石家庄至张家口直达高铁,国家不支持列入规划

河北官方回复:石家庄至张家口直达高铁,国家不支持列入规划

铁路叨叨嘴
2026-09-02 20:18:54
中国全额缴纳2026年联合国会费

中国全额缴纳2026年联合国会费

澎湃新闻
2026-09-03 04:16:04
科大讯飞出轨女主朱倩旧照疑曝光!小眼睛大脸盘,身材一般,和网传照片天差地别

科大讯飞出轨女主朱倩旧照疑曝光!小眼睛大脸盘,身材一般,和网传照片天差地别

小徐讲八卦
2026-09-03 11:53:43
玩家把PS5挂墙上炫耀:被网友喷 "蠢出天际"

玩家把PS5挂墙上炫耀:被网友喷 "蠢出天际"

游民星空
2026-09-02 16:11:52
NBA官方重磅罚单:快船和莱昂纳德违反工资帽规则,没收5首轮,罚款3000万美元;快船声明:强烈反对NBA调查结果,将继续申诉

NBA官方重磅罚单:快船和莱昂纳德违反工资帽规则,没收5首轮,罚款3000万美元;快船声明:强烈反对NBA调查结果,将继续申诉

扬子晚报
2026-09-03 07:31:31
河北保定一中学家长在班级群自称“系医院纪委书记,妻子系学校人事处副处长,希望老师关照孩子”,学校回应:会对所有学生一视同仁

河北保定一中学家长在班级群自称“系医院纪委书记,妻子系学校人事处副处长,希望老师关照孩子”,学校回应:会对所有学生一视同仁

三湘都市报
2026-09-03 00:12:23
给非洲53国全免关税!结果人家先把中国货买爆了,出口暴涨29%

给非洲53国全免关税!结果人家先把中国货买爆了,出口暴涨29%

说故事的阿袭
2026-09-03 04:36:54
2026-09-03 14:31:00
36氪 incentive-icons
36氪
让一部分人先看到未来
152367文章数 2849294关注度
往期回顾 全部

财经要闻

再见了,期房!商品房预售制卒于2026

头条要闻

尼泊尔父亲山洪后借钱徒步找19岁儿子:他肯定能跑掉

头条要闻

尼泊尔父亲山洪后借钱徒步找19岁儿子:他肯定能跑掉

体育要闻

小卡回应处罚:不知晓任何规避工资帽意图

娱乐要闻

德云社停更20天再营业!

科技要闻

大模型扎堆!谷歌刚发,Meta就跟上

汽车要闻

实拍捷途旅行者7 风格更潮/混动版配上华为乾崑ADS 5

态度原创

艺术
家居
亲子
教育
公开课

艺术要闻

马岩松MAD新作:舞蹈之家的“玻璃裙摆”

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

儿子说不去幼儿园是因为里面有大毛猴!

教育要闻

奥数题,全班只有一个女生做出来

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版