2.8万亿参数是什么概念?微软把上一代基座模型的参数规模直接翻了近三倍,然后用1万6000块GB200 GPU连续跑了38天,把预训练做完了。
![]()
微软公布的消息是,基座模型MAI-Base-2的预训练已经完成。这是一款MoE(混合专家)架构模型,激活参数800亿,总参数2.8万亿。训练窗口落在2026年8月到9月之间。
![]()
要理解这个数字的分量,得先看它的上一代。2026年6月,微软发布过自研推理模型MAI-Thinking-1,它背后的基座是MAI-Base-1——激活参数350亿,总参数1万亿。从1万亿到2.8万亿,MAI-Base-2不只是变大,训练数据量也同步加码。
![]()
微软强调的另一组对比更值得琢磨:MAI-Base-2把预训练的计算量压到了十二分之一,成绩却和DeepSeek-V4-Pro-Base的预训练分数相当。省算力这件事,被摆在了和堆参数同等的位置上。
和上一代一样,微软特意说明MAI-Base-2不是靠从其他模型"蒸馏"构建出来的。从原始训练数据,到训练完成后的模型,再到跑模型的基础设施,整条链路都握在微软自己手里——这套全栈自持被当作核心优势来讲。
真正拉开代差的地方在模态。MAI-Base-1是纯文本路线,MAI-Base-2从预训练阶段就把图像数据揉了进去,是个多模态模型。全部50万亿token的训练数据里,图像相关数据占了18%,包含图文组合等形式。
数据管线的改造也是这一代的重点。微软称,从MAI-Thinking-1之后,团队在质量分类、网页解析、去重、以及评估数据与训练数据的重叠剔除上都做了改进。MAI-Base-2的知识截止点定在2026年3月,能处理的网页内容比上一代更多。微软表示,正是这些手法让模型性能大幅提升。
关于MAI-Base-2的定位,微软的说法是"下一代模型的基础"。后续还会公布更多信息。目前一边在推进MAI-Base-2的后训练,一边已经着手准备MAI-Base-3。
有一个信息微软没有明说:MAI-Base-2到底是不是开放权重模型。官方资料里没有写清楚。可以确认的是,上一代MAI-Base-1走的是闭源权重路线。
从1万亿到2.8万亿,从纯文本到多模态,从堆算力到砍掉十二分之十一的计算量——微软这条基座模型的迭代线,把"更大"和"更省"两件事同时摆上了台面。而MAI-Base-3已经在路上。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.