网易首页 > 网易号 > 正文 申请入驻

2.8万亿参数、1.6万块GPU:微软新模型38天练完

0
分享至

2.8万亿参数是什么概念?微软把上一代基座模型的参数规模直接翻了近三倍,然后用1万6000块GB200 GPU连续跑了38天,把预训练做完了。


微软公布的消息是,基座模型MAI-Base-2的预训练已经完成。这是一款MoE(混合专家)架构模型,激活参数800亿,总参数2.8万亿。训练窗口落在2026年8月到9月之间。


要理解这个数字的分量,得先看它的上一代。2026年6月,微软发布过自研推理模型MAI-Thinking-1,它背后的基座是MAI-Base-1——激活参数350亿,总参数1万亿。从1万亿到2.8万亿,MAI-Base-2不只是变大,训练数据量也同步加码。


微软强调的另一组对比更值得琢磨:MAI-Base-2把预训练的计算量压到了十二分之一,成绩却和DeepSeek-V4-Pro-Base的预训练分数相当。省算力这件事,被摆在了和堆参数同等的位置上。

和上一代一样,微软特意说明MAI-Base-2不是靠从其他模型"蒸馏"构建出来的。从原始训练数据,到训练完成后的模型,再到跑模型的基础设施,整条链路都握在微软自己手里——这套全栈自持被当作核心优势来讲。

真正拉开代差的地方在模态。MAI-Base-1是纯文本路线,MAI-Base-2从预训练阶段就把图像数据揉了进去,是个多模态模型。全部50万亿token的训练数据里,图像相关数据占了18%,包含图文组合等形式。

数据管线的改造也是这一代的重点。微软称,从MAI-Thinking-1之后,团队在质量分类、网页解析、去重、以及评估数据与训练数据的重叠剔除上都做了改进。MAI-Base-2的知识截止点定在2026年3月,能处理的网页内容比上一代更多。微软表示,正是这些手法让模型性能大幅提升。

关于MAI-Base-2的定位,微软的说法是"下一代模型的基础"。后续还会公布更多信息。目前一边在推进MAI-Base-2的后训练,一边已经着手准备MAI-Base-3。

有一个信息微软没有明说:MAI-Base-2到底是不是开放权重模型。官方资料里没有写清楚。可以确认的是,上一代MAI-Base-1走的是闭源权重路线。

从1万亿到2.8万亿,从纯文本到多模态,从堆算力到砍掉十二分之十一的计算量——微软这条基座模型的迭代线,把"更大"和"更省"两件事同时摆上了台面。而MAI-Base-3已经在路上。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2.8亿灵活就业者!这届年轻人,真的交不起社保了?

2.8亿灵活就业者!这届年轻人,真的交不起社保了?

李云飞Afey
2026-08-16 20:03:40
一场4-0!让辽宁铁人拿到关键3分+送海牛12连败 压力给到武汉三镇

一场4-0!让辽宁铁人拿到关键3分+送海牛12连败 压力给到武汉三镇

球场新视角1号
2026-10-17 21:34:44
台湾回归后,第1任省长由谁担任最合适?五人上榜,一人脱颖而出

台湾回归后,第1任省长由谁担任最合适?五人上榜,一人脱颖而出

夜里看海
2026-09-13 14:35:39
8GB内存终于够用了!微软官宣:Windows 11大提速20%

8GB内存终于够用了!微软官宣:Windows 11大提速20%

快科技
2026-10-16 15:24:24
只要8888,躺在怀里直接喝,提供包天服务,人乳交易乱象龌龊不堪

只要8888,躺在怀里直接喝,提供包天服务,人乳交易乱象龌龊不堪

易玄
2026-10-16 11:12:32
40年林彪在莫斯科拍下唯一一张正装照片,身旁站着的年轻人究竟是谁?

40年林彪在莫斯科拍下唯一一张正装照片,身旁站着的年轻人究竟是谁?

春秋砚
2026-09-03 07:25:12
武汉盛帆女篮与华中科技大学女篮热身赛爆发大规模冲突,场面失控;高校队员事后在电梯内兴奋复盘打人细节:“我上去就给她三拳”

武汉盛帆女篮与华中科技大学女篮热身赛爆发大规模冲突,场面失控;高校队员事后在电梯内兴奋复盘打人细节:“我上去就给她三拳”

大风新闻
2026-10-17 11:23:04
小米新机公布:10000mAh+6.9英寸直屏+185Hz!

小米新机公布:10000mAh+6.9英寸直屏+185Hz!

科技堡垒
2026-10-15 12:05:26
CBA最丑陋揭幕战!上海34分狂胜深圳杀红眼:杜锋却全程无话可说?

CBA最丑陋揭幕战!上海34分狂胜深圳杀红眼:杜锋却全程无话可说?

篮球快餐车
2026-10-17 05:19:17
社保体系中的不公与痛点

社保体系中的不公与痛点

沈勇平
2026-10-13 15:58:32
伟大的长征:万淑芬到死都不会想到,王家烈最终活成了这样!

伟大的长征:万淑芬到死都不会想到,王家烈最终活成了这样!

郭蛹包工头
2026-10-17 21:59:11
克林顿披露隐瞒近 50 年的数字?朝鲜战争美军不是 30 万

克林顿披露隐瞒近 50 年的数字?朝鲜战争美军不是 30 万

果妈聊娱乐
2026-09-18 17:17:44
女生旅游不慎遗失新手机,5分钟就找回,里面多了一段视频:“糊涂鬼,手机新买的吧,我们交给警察了哦”;当事人:准备寄特产感谢

女生旅游不慎遗失新手机,5分钟就找回,里面多了一段视频:“糊涂鬼,手机新买的吧,我们交给警察了哦”;当事人:准备寄特产感谢

环球时报国际
2026-10-16 13:32:31
女人最上瘾的,从来不是拥抱接吻,是男人藏不住的生理性吸引

女人最上瘾的,从来不是拥抱接吻,是男人藏不住的生理性吸引

九哥哥车评
2026-10-18 02:23:28
台当局这下彻底懵了!大陆不声不响,台湾后路已经被堵死

台当局这下彻底懵了!大陆不声不响,台湾后路已经被堵死

冰语历史
2026-10-15 05:05:45
1953年13名志愿军弹尽粮绝时,竟意外捡到一箱美军照明废品,却用这些废品打退美军的7次集团冲锋

1953年13名志愿军弹尽粮绝时,竟意外捡到一箱美军照明废品,却用这些废品打退美军的7次集团冲锋

睡前讲故事
2026-10-11 19:53:11
新疆男篮2分险胜青岛,阿不都沙拉木12+5齐麟15分,韦瑟斯庞空砍28分

新疆男篮2分险胜青岛,阿不都沙拉木12+5齐麟15分,韦瑟斯庞空砍28分

中国篮坛快讯
2026-10-17 21:54:42
布朗离队彻底解放?塔克新赛季首秀狂轰44+12+9加时连中关键球

布朗离队彻底解放?塔克新赛季首秀狂轰44+12+9加时连中关键球

狼叔评论
2026-10-17 22:44:09
坐牢3年罚款10万,被毁掉7年青春的陈昱霖,出狱后过得怎么样了?

坐牢3年罚款10万,被毁掉7年青春的陈昱霖,出狱后过得怎么样了?

孤傲何妨初
2026-10-16 10:30:16
正式退役,31岁黄雅琼官宣,拒绝娱乐圈,安置岗位级别工资曝光

正式退役,31岁黄雅琼官宣,拒绝娱乐圈,安置岗位级别工资曝光

绚丽的画卷
2026-10-16 21:02:38
2026-10-18 03:51:00
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
197文章数 74关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

数码
时尚
本地
教育
公开课

数码要闻

超七成笔记本OLED被三星拿捏!中国面板厂开始反击了

降落伞裤的3组搭配,打破秋冬沉闷感!

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

教育要闻

“你很漂亮,但我们不要你!”女大学生简历精修照火了,但HR说出实话

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版