
在最新发布的 MLPerf Training v6.1 基准测试中,英伟达再次确立领先地位,令竞争对手面临严峻挑战。本次测试由 MLCommons 组织,共评估了来自 24 家机构的 153 套计算系统,涵盖 250 项结果,旨在衡量各系统在指定精度下训练 AI 模型的速度。
英伟达性能翻倍,微软同步跟进
英伟达宣称,其全新的 Vera Rubin NVL72 平台在部分对比场景中,单 GPU 性能达到上一代 GB300 NVL72 系统的两倍。在 DeepSeek-V3 基准测试中,英伟达展示了卓越的扩展能力:将 GPU 数量从 256 颗增至 1,024 颗后,训练时间从约 16 分钟大幅缩短至 4 分钟。
在具体提交方面,英伟达提供了基于 10,240 个 GB300 加速器的测试结果。与此同时,微软 Azure 部门也利用英伟达 GB200 硬件实现了同等规模的配置并提交数据。
AMD 以以太网破局,谷歌 TPU 参测
AMD 通过云服务商 Crusoe 展现了其硬件实力。Crusoe 使用标准以太网网络对 Instinct MI355X 加速器进行测试,证明了 AMD 硬件无需依赖英伟达专有网络技术即可实现有效扩展。数据显示,在 Llama 3.1 8B 训练基准测试中,Crusoe 的 128 GPU 配置耗时 14.07 分钟,远优于 8 GPU 系统的 78.34 分钟;在新的 DLRMv4 推荐基准测试中,其 64 GPU 系统耗时仅为 4.63 分钟。
谷歌也携其 TPU 处理器(包括最新的 Ironwood 架构)参与角逐。尽管其他厂商正投入数十亿美元试图缩小差距,但英伟达凭借硬件、网络与 CUDA 软件的综合优势,依然保持着难以企及的竞争力。
本轮测试新增了推荐系统和 AI 后训练两个工作负载,反映了行业对复杂模型实用化的追求。测试中包含 57 套基于云的系统,其中 12 种配置使用了超过 1,000 个加速器,凸显了 AI 基础设施的庞大规模。完整的基准测试结果已通过 MLCommons 公布,客户可直接查阅各项具体配置细节。