网易首页 > 网易号 > 正文 申请入驻

2.8万亿参数、1.6万块GPU:微软新模型38天练完

0
分享至

2.8万亿参数是什么概念?微软把上一代基座模型的参数规模直接翻了近三倍,然后用1万6000块GB200 GPU连续跑了38天,把预训练做完了。


微软公布的消息是,基座模型MAI-Base-2的预训练已经完成。这是一款MoE(混合专家)架构模型,激活参数800亿,总参数2.8万亿。训练窗口落在2026年8月到9月之间。


要理解这个数字的分量,得先看它的上一代。2026年6月,微软发布过自研推理模型MAI-Thinking-1,它背后的基座是MAI-Base-1——激活参数350亿,总参数1万亿。从1万亿到2.8万亿,MAI-Base-2不只是变大,训练数据量也同步加码。


微软强调的另一组对比更值得琢磨:MAI-Base-2把预训练的计算量压到了十二分之一,成绩却和DeepSeek-V4-Pro-Base的预训练分数相当。省算力这件事,被摆在了和堆参数同等的位置上。

和上一代一样,微软特意说明MAI-Base-2不是靠从其他模型"蒸馏"构建出来的。从原始训练数据,到训练完成后的模型,再到跑模型的基础设施,整条链路都握在微软自己手里——这套全栈自持被当作核心优势来讲。

真正拉开代差的地方在模态。MAI-Base-1是纯文本路线,MAI-Base-2从预训练阶段就把图像数据揉了进去,是个多模态模型。全部50万亿token的训练数据里,图像相关数据占了18%,包含图文组合等形式。

数据管线的改造也是这一代的重点。微软称,从MAI-Thinking-1之后,团队在质量分类、网页解析、去重、以及评估数据与训练数据的重叠剔除上都做了改进。MAI-Base-2的知识截止点定在2026年3月,能处理的网页内容比上一代更多。微软表示,正是这些手法让模型性能大幅提升。

关于MAI-Base-2的定位,微软的说法是"下一代模型的基础"。后续还会公布更多信息。目前一边在推进MAI-Base-2的后训练,一边已经着手准备MAI-Base-3。

有一个信息微软没有明说:MAI-Base-2到底是不是开放权重模型。官方资料里没有写清楚。可以确认的是,上一代MAI-Base-1走的是闭源权重路线。

从1万亿到2.8万亿,从纯文本到多模态,从堆算力到砍掉十二分之十一的计算量——微软这条基座模型的迭代线,把"更大"和"更省"两件事同时摆上了台面。而MAI-Base-3已经在路上。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
徐艺洋直播透露:儿子两岁多,身高比同龄孩子高一点壮一点,常被误认为三四岁

徐艺洋直播透露:儿子两岁多,身高比同龄孩子高一点壮一点,常被误认为三四岁

韩小娱
2026-10-17 11:55:35
严查!中央升级反腐“天网!信号强烈!

严查!中央升级反腐“天网!信号强烈!

职场资深秘书
2026-10-17 11:12:04
爱美的小姨子!美甲界的阅兵仪式,执着于撞色美学

爱美的小姨子!美甲界的阅兵仪式,执着于撞色美学

史海流年号
2026-10-17 22:56:29
日本乒协没想到,'踢出',伊藤美诚名单不到一天,就遭到口碑反噬

日本乒协没想到,'踢出',伊藤美诚名单不到一天,就遭到口碑反噬

琴琴有氧运动
2026-10-18 05:41:43
与王皓分手后,她拿世界冠军退役嫁老乡,陈梦当伴娘,今儿女双全

与王皓分手后,她拿世界冠军退役嫁老乡,陈梦当伴娘,今儿女双全

娱圈办事处
2026-10-07 15:20:12
武汉34岁医学博士11天捐精5次猝死,老父索赔400万,后来怎样了?

武汉34岁医学博士11天捐精5次猝死,老父索赔400万,后来怎样了?

夜话奇谭
2026-09-18 18:57:36
38岁福原爱中国行大变样,与邓亚萍同框,疑和前夫江宏杰为女庆生

38岁福原爱中国行大变样,与邓亚萍同框,疑和前夫江宏杰为女庆生

梁猕爱玩车
2026-10-16 17:51:37
陪玩陪睡仅开胃菜!手伸裤子事件后,圈内人再揭猛料,杨幂没说错

陪玩陪睡仅开胃菜!手伸裤子事件后,圈内人再揭猛料,杨幂没说错

悠悠说世界
2026-10-10 20:09:49
和平饭店老板阿四火爆出圈!阿四有钱还是在演,网红的魔幻娱乐圈

和平饭店老板阿四火爆出圈!阿四有钱还是在演,网红的魔幻娱乐圈

乡野小珥
2026-10-05 05:18:38
不愧是浙江!杭州女子打12345建议路灯提前到18点亮,结果直接给她调到了17点

不愧是浙江!杭州女子打12345建议路灯提前到18点亮,结果直接给她调到了17点

看晓天下事
2026-10-15 16:37:09
马斯克的妹妹从小就坚信,跟着哥哥有肉吃,瞒着妈妈把南非家里的房和车都卖了去加拿大投奔哥哥!妈妈哭笑不得的承认是事实!

马斯克的妹妹从小就坚信,跟着哥哥有肉吃,瞒着妈妈把南非家里的房和车都卖了去加拿大投奔哥哥!妈妈哭笑不得的承认是事实!

大白聊IT
2026-08-14 01:29:05
张雨绮这个V开到肚脐眼下了,太敢穿了

张雨绮这个V开到肚脐眼下了,太敢穿了

情感大头说说
2026-10-17 04:20:04
中央定调,退休新政3大变化,70后二选一,养老金每月最高差338元

中央定调,退休新政3大变化,70后二选一,养老金每月最高差338元

虎哥闲聊
2026-10-16 21:10:26
大冷门!大连3-1绝杀守住冠军悬念,成都蓉城彻底无缘提前夺冠!

大冷门!大连3-1绝杀守住冠军悬念,成都蓉城彻底无缘提前夺冠!

倾世璃歌
2026-10-18 05:20:19
《奔跑吧大湾区篇》开录,王祖蓝回归,范丞丞妆太浓,她来干啥?

《奔跑吧大湾区篇》开录,王祖蓝回归,范丞丞妆太浓,她来干啥?

橙星文娱
2026-10-17 18:23:08
肖磊:特朗普可能害了俄罗斯

肖磊:特朗普可能害了俄罗斯

肖磊看世界
2026-10-16 16:31:37
黄埔十大名将名单公布,入榜者都是谁?排名前三均来自人民队伍!

黄埔十大名将名单公布,入榜者都是谁?排名前三均来自人民队伍!

开箱历史
2026-10-14 08:50:15
深圳市一栋3层私宅48万起就被拍卖,31人竞价112万元成交

深圳市一栋3层私宅48万起就被拍卖,31人竞价112万元成交

老覃讲历史
2026-10-16 07:25:59
五个原因,让成都蓉城成为全中超公敌,球迷不愿看到他们夺冠

五个原因,让成都蓉城成为全中超公敌,球迷不愿看到他们夺冠

花魄m
2026-10-17 13:21:21
坐牢3年罚款10万,被毁掉7年青春的陈昱霖,出狱后过得怎么样了?

坐牢3年罚款10万,被毁掉7年青春的陈昱霖,出狱后过得怎么样了?

孤傲何妨初
2026-10-16 10:30:16
2026-10-18 06:35:00
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
200文章数 74关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

头条要闻

普京:包围并消灭2000人的乌军集群 这非比寻常

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

游戏
旅游
教育
时尚
公开课

《使命召唤:现代战争4》Switch 2版支持DLSS

旅游要闻

打造移动旅游驿站 满足不同群体需求

教育要闻

史上最难逃课的学一下,这样的学校你喜欢吗?

降落伞裤的3组搭配,打破秋冬沉闷感!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版