微软 MAI-Base-2 完成预训练:2.8T 参数,效率达 DeepSeek 方案 4 至 12 倍

鲸云网10月16日消息,据媒体报道,微软当地时间昨日宣布,已完成新一代 SOTA 基础模型 MAI-Base-2 的预训练工作。微软称,该模型在性能上强于所有参测的开源权重模型。

微软 MAI-Base-2 完成预训练:2.8T 参数,效率达 DeepSeek 方案 4 至 12 倍

官方披露的参数显示,MAI-Base-2 总参数规模达到 2.8T(万亿),活跃参数规模为 80B(十亿),在 6,000 个 NVIDIA GB200 GPU 上历时 38 天完成训练。整个训练过程的平均浮点算力利用率为 21%,有效吞吐量为 89%。

微软方面表示,MAI-Base-2 的预训练算力效率达到 DeepSeek-V4-Pro-Base 的 4 至 12 倍。大模型训练普遍受算力规模与能耗约束,单位算力所能产出的模型能力,正成为衡量训练方案优劣的核心指标之一。

据微软介绍,三项举措对 MAI-Base-2 的成功预训练尤为关键:科学规模化、模型与基础设施的协同设计,以及数据规模化。这三者分别对应算法、硬件与语料层面的系统整合。

在完善 MAI-Base-2 的同时,微软已启动 MAI-Base-3 的准备工作。这意味着这家科技巨头在自研基础模型上的投入仍在加码,后续代际的路线图已经铺开。

编辑:华磊

免责声明:本站转载的文章,版权归原作者所有;旨在传递信息,不代表本站的观点和立场。

赞 (0)
上一篇 2026年10月16日 上午11:56
REDMI K100 标准版绿色真机曝光,卢伟冰预告 3500 元档新机
下一篇 2026年10月16日 下午1:37

相关推荐