网易首页 > 网易号 > 正文 申请入驻

英伟达投的AI Infra创企发模型工厂!支持数千卡集群训练万亿MoE

0
分享至


智东西
编译 孙小雯
编辑 程茜

智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支持在千张以上GPU集群上训练万亿参数以上的MoE模型。


▲Prime Intellect发布Model Factory(图源:X)

Model Factory将预训练、继续训练、监督微调、强化学习和模型推理纳入统一平台,并支持将模型上线后的执行记录用于后续训练。科学研究、芯片设计、金融等专业领域的团队,可以围绕自己的任务和数据训练、部署并持续改进模型。

据该公司透露,其训练规模可扩展至数千张GPU。基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。

目前,Model Factory支持按需托管(On-demand)和专属部署(Dedicated)两种服务方式。其中,专属部署支持客户自定义训练框架,并通过Slurm、Kubernetes直接提交并安排计算任务。此外,专属部署还支持为训练团队检查机器健康状态、自动替换故障机器,并从最近存档恢复训练。

定价方面,按需托管的训练费根据GPU型号、数量和占用时间计算,按秒折算,该模式下的数据存储另按每GiB每月0.09美元(约合人民币0.60元)收费,平台在任务启动前显示并锁定训练单价,不收取排队、调度和下载运行环境期间的费用。专属部署方案定制化收费。

Prime Intellect成立于2023年,主要为企业和研究团队提供GPU算力租赁、模型训练、评测和部署服务,并以API方式提供模型推理服务。此前,该公司曾宣布完成累计超1.5亿美元(约合人民币10.07亿元)的三轮融资,英伟达风投、英特尔资本为其A轮投资方。

据该公司今年7月披露,其年化营收规模(ARR)在不到一年内超过1亿美元(约合人民币6.71亿元)。目前,该公司客户超过6000家,并曾与英伟达共建2500项经过验证的跨应用企业任务。

该公司称,此前,仅前沿实验室能够完成训练及改进模型的全过程闭环,而Model Factory将打破这一技术藩篱。通过Model Factory,任何从事科学发现、芯片设计、金融等专业领域的团队,都可以基于自己的任务和数据进行模型训练及部署。

一、支持数千张GPU训练,提供模型一键部署服务

Model Factory由该公司此前推出的模型训练平台Lab升级而来。Lab主打托管服务,主要支持用户通过LoRA微调开展强化学习。此次升级进一步扩大了训练范围,并为需要深入修改训练系统的团队提供专属部署服务。


▲Model Factory与此前Lab的功能对比(图源:Prime Intellect)

Model Factory支持预训练、继续训练、监督微调(SFT)和强化学习(RL)。用户提交训练配置后,可以按GPU小时付费使用托管训练,也可以选择专用部署,预留算力并调整底层系统。

在监督微调环节,用户可以从平台目录中选择现有开源模型,也可以导入自己已有的模型,再让上述模型学习成功案例、操作示范和专业领域回答。微调后的模型既可以直接使用,也可以继续接受强化学习训练。

开展强化学习时,用户需要设置训练环境,为模型提供练习任务、完成任务可用的工具,以及判断结果好坏的评分规则。开源平台Environments Hub中有超过2500个由社区开发者提供的现成训练环境,让模型在其中练习任务、接受评分,并按业务需求调整环境设置。研究人员可以跟踪奖励分数、检查执行过程;需要编写代码或调用工具的智能体还可使用隔离沙箱,平台支持数万个沙箱并发运行。


▲Model Factory强化学习训练演示(图源:Prime Intellect)

针对新模型开发和基座模型训练,平台支持预训练、继续训练,以及不同模型架构、训练目标和算法的实验。该公司称,训练规模可扩展至数千张GPU,基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。


▲Model Factory预训练实验演示(图源:Prime Intellect)

模型评测方面,研究人员可以先测试模型的初始表现,再评测训练过程中保存的不同检查点,比较训练效果。

确定需要部署的版本后,用户可以在控制台中将相应检查点一键部署为推理接口,供应用调用,也可用于生成合成数据和开展后续评测。按需托管与专用部署均支持一键部署。


▲Model Factory模型部署演示(图源:Prime Intellect)

二、收集执行记录辅助模型改进,支持客户自有GPU部署

模型上线后,团队可以通过运行记录管理工具Prime Traces收集执行记录,查看智能体调用了哪些工具、经过哪些步骤,以及在哪一步失败。研究人员据此筛选下一轮训练样本,调整任务环境和评分规则。


▲Model Factory执行记录收集演示(图源:Prime Intellect)

在该公司的编程智能体案例中,研究人员可以检查模型是否找到正确文件、是否运行测试,以及是否真正修复问题,再据此补充监督微调示范、调整强化学习奖励,或加入更难的任务。

新一轮训练后,研究人员可以结合代码修改和测试结果检查模型表现,并使用未参与训练的另一组任务开展评测,确认模型在训练任务之外是否同样有所改善,再决定是否部署新版本。

对于需要修改底层训练框架的团队,Model Factory还提供专用部署,客户可使用该公司或自有GPU搭建专用集群。研究人员既可以使用托管训练和推理服务,也可以通过调度器Slurm和Kubernetes直接管理集群,并按实验需求修改底层框架、运行自定义任务。

为支持长时间运行的实验,平台还提供健康检查、故障节点自动替换和训练恢复功能。据该公司披露,系统可在节点故障后从最近保存的检查点恢复运行,团队也可通过prime factory命令行工具,在不同任务之间调配GPU。

三、累计融资超10亿,为6000多家客户提供算力与模型服务

据该公司官网展示,Prime Intellect目前有三条产品线:模型训练平台Model Factory,前身为Lab;推理服务Prime Inference,为客户提供现成模型的API,也为客户自己的模型配置专属运行服务;算力服务Prime Compute,为客户提供按需租用的GPU、专属集群及配套运维。


▲Prime Intellect的分布式AI训练构想(图源:Prime Intellect)

Prime Compute是一个GPU算力平台,用户可以根据模型训练、推理等任务的需求,选择GPU型号、数量和租用时长,支持按小时租用1至256张GPU,也可以预订由Prime Intellect负责运维的专属集群。该平台提供集群调度、运行监控和故障节点自动替换等功能,用户可通过API启动和管理算力资源。

Prime Inference则是模型推理服务平台,用户可以通过兼容OpenAI接口的API调用开放模型,也可以将自己训练的模型部署上线,接入应用。目前,平台支持按Token付费和预留专属算力,当某个数据中心的部署出现故障时,系统支持自动将请求转至其他正常运行的部署。

该公司透露,在正式对外发布前,Prime Inference仅处理公司内部的强化学习、合成数据生成、评测等任务,每天处理的Token量就已接近1万亿。

Prime Intellect的两位联合创始人此前分别有Web3及模型训练背景。该公司联合创始人兼CEO文森特·魏瑟(Vincent Weisser)曾参与创办去中心化科研组织VitaDAO,并在生物医药知识产权平台Molecule负责产品和AI业务。

其联合创始人兼CTO约翰内斯·哈格曼(Johannes Hagemann)硕士毕业于德国哈索·普拉特纳研究所IT系统工程专业,并于2022年初加入德国大模型公司Aleph Alpha,参与从零构建分布式训练框架。

2023年,哈格曼以第一作者身份完成《大规模分布式模型训练的高效并行化布局(Efficient Parallelization Layouts for Large-Scale Distributed Model Training)》论文,并获得NeurIPS 2023下属WANT研讨会最佳论文奖。


▲Prime Intellect联合创始人兼CTO约翰内斯·哈格曼(左)与联合创始人兼CEO文森特·魏瑟(右)(图源:Prime Intellect)

客户合作方面,Prime Intellect曾与英伟达合作开展企业任务训练。双方共同构建了2500项经过验证的跨应用企业任务,覆盖邮件、客户管理、工单和表格等场景。英伟达以完成监督微调的Nemotron 3.5 Super VL为起点,使用NeMo RL开展强化学习,共投入128张GB200 GPU。训练后,在考察企业跨应用自动化能力的AutomationBench-AA公开测试集中,该模型的得分从训练前的34.0%提高至57.7%。

在融资方面,2024年4月,该公司宣布完成550万美元(约合人民币3692万元)种子轮融资,由Distributed Global和CoinFund共同领投。2025年2月,该公司宣布完成1500万美元融资(约合人民币1.01亿元),由创始人基金领投。今年7月,该公司完成1.3亿美元(约合人民币8.73亿元)A轮融资,由Radical Ventures领投,英伟达风投、英特尔资本、戴尔科技资本等参投。

结语:模型平台争夺长期客户,训练实效影响客户去留

Model Factory将算力、训练、评测和部署整合起来,扩大了Prime Intellect能够承接的客户需求。美国AI云服务商Fireworks等同行也在提供训练与部署服务,模型定制平台的服务范围正逐渐重叠。Prime Intellect需要凭借训练环境、沙箱、运行记录和集群控制等差异化能力,争取需要持续开发模型的客户。

服务范围接近之后,平台能否帮助企业更快完成实验、更稳定地上线模型,将更直接地影响客户选择。供应商也需要将项目经验整理成可复用的工具和方案,减少每次交付中的人工投入。客户是否持续使用该平台、是否完成有效模型训练,将检验一站式平台的长期价值。

来源:Prime Intellect


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2004年,日本,43岁高市早苗的婚礼时刻

2004年,日本,43岁高市早苗的婚礼时刻

娱你同欢
2026-11-19 21:51:16
饭店88元红烧“小鸡”竟是候鸟,男女老少齐上阵,村民直言“留着鸟干嘛”;起底候鸟迁徙通道上的血色产业链

饭店88元红烧“小鸡”竟是候鸟,男女老少齐上阵,村民直言“留着鸟干嘛”;起底候鸟迁徙通道上的血色产业链

大风新闻
2026-11-20 10:22:07
叶檀婚姻终于迎来好消息!立完遗嘱选临终病房,丈夫将在明年露面

叶檀婚姻终于迎来好消息!立完遗嘱选临终病房,丈夫将在明年露面

暖心萌阿菇凉
2026-11-20 02:31:12
大家发现没,西班牙和葡萄牙是欧洲最怪的邻居:明明人口5:1,面积5:1,实力也是5:1,为啥西班牙不拿下葡萄牙?

大家发现没,西班牙和葡萄牙是欧洲最怪的邻居:明明人口5:1,面积5:1,实力也是5:1,为啥西班牙不拿下葡萄牙?

言过于诚
2026-11-20 00:01:07
王毅:我刚刚在机场相继送别了特朗普总统和普京总统,所以让大家久等了,各位辛苦了,听得出,外长的嗓音有些沙哑,也非常辛苦

王毅:我刚刚在机场相继送别了特朗普总统和普京总统,所以让大家久等了,各位辛苦了,听得出,外长的嗓音有些沙哑,也非常辛苦

每日经济新闻
2026-11-20 09:59:35
灰熊5连胜双杀送勇士5连败:探花16+6+5 伦德博格11+8+7

灰熊5连胜双杀送勇士5连败:探花16+6+5 伦德博格11+8+7

醉卧浮生
2026-11-20 11:28:19
高市深圳参会,日本网友的留言亮了!

高市深圳参会,日本网友的留言亮了!

仕道
2026-11-19 17:13:11
真不怪诺里!杨瀚森2罚不中,担任第2中锋0分1板,亨德森半场21分

真不怪诺里!杨瀚森2罚不中,担任第2中锋0分1板,亨德森半场21分

球场没跑道
2026-11-20 10:28:17
丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

小徐讲八卦
2026-11-20 06:39:39
湖北95后小伙开饭店优先招35岁以上员工,缴五险一金,周休2天,一年亏了100多万

湖北95后小伙开饭店优先招35岁以上员工,缴五险一金,周休2天,一年亏了100多万

黄河新闻网吕梁
2026-11-19 17:55:11
游客在三亚海边捡到百斤重金枪鱼,体长近一米九,价值超3000元,当地:不常见,只要不是保护动物,可自行处理

游客在三亚海边捡到百斤重金枪鱼,体长近一米九,价值超3000元,当地:不常见,只要不是保护动物,可自行处理

上观新闻
2026-11-20 06:58:22
马科斯来到深圳后,点名要见一批人,想给菲律宾带点“特产”回去

马科斯来到深圳后,点名要见一批人,想给菲律宾带点“特产”回去

墨子翟的日记y
2026-11-20 01:40:03
马斯克短短24小时中国行,专门从深圳飞到上海

马斯克短短24小时中国行,专门从深圳飞到上海

都市快报橙柿互动
2026-11-20 01:58:38
刘德华被问到多个流传多年的传闻,他亲口证实“都是真的”

刘德华被问到多个流传多年的传闻,他亲口证实“都是真的”

韩小娱
2026-11-19 08:49:36
突发!黄仁勋正考虑创办一家全新的半导体公司

突发!黄仁勋正考虑创办一家全新的半导体公司

大厂财经社
2026-11-20 11:12:34
特朗普:亚洲行程太满了,没顾上见金正恩,“有太多会议了,实在安排不过来,我们将在某个时间点举行那场会谈”

特朗普:亚洲行程太满了,没顾上见金正恩,“有太多会议了,实在安排不过来,我们将在某个时间点举行那场会谈”

扬子晚报
2026-11-20 12:29:27
太震撼!俄罗斯记者到深圳先换人民币准备消费,几天下来一分没花,直呼中国“太先进了”

太震撼!俄罗斯记者到深圳先换人民币准备消费,几天下来一分没花,直呼中国“太先进了”

秋风妃
2026-11-19 19:41:34
国内金价跌至“7字头”,杭州黄金投资者坦言心态变了

国内金价跌至“7字头”,杭州黄金投资者坦言心态变了

极目新闻
2026-11-19 16:20:18
昨晚比亚迪又发新车了!台下坐得人屁股生疼,友商当晚就失眠了

昨晚比亚迪又发新车了!台下坐得人屁股生疼,友商当晚就失眠了

小李车评李建红
2026-11-20 08:00:13
西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

都市快报橙柿互动
2026-11-20 09:37:46
2026-11-20 13:28:49
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12984文章数 117196关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

普京:正式声明后三国首脑展开自由讨论 恐怕没人料到

头条要闻

普京:正式声明后三国首脑展开自由讨论 恐怕没人料到

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

数码
旅游
亲子
本地
艺术

数码要闻

1299元飞傲UTWS17蓝牙耳挂开售:搭载双AK4333,配OLED显示屏与无触点无线充电仓

旅游要闻

拒绝走马观花!来大辛庄遗址博物馆,带您“玩着玩着就懂了”

亲子要闻

正在慢慢发生的一场巨变:孩子不够了,幼儿园和小学关闭潮来袭?

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

艺术要闻

2026第七届民族美术作品展 油画选一

无障碍浏览 进入关怀版