NVIDIA Vera Rubin NVL72在MLPerf推理v6.1首秀中提供领先性能
nvidia ·
英伟达宣布,其 Vera Rubin NVL72 系统在首次提交 MLPerf Inference v6.1 基准测试时取得了领先性能。该平台在 Qwen3-VL 基准测试中的吞吐量比上一代 GB300 NVL72 最高提升 3.7 倍,在 DeepSeek-R1 上的吞吐量最高提升 2.5 倍。这些性能提升得益于全栈协同设计,包括增强型 Tensor Core、Transformer Engine 以及可降低内存占用的 NVFP4 精度。此外,GB300 NVL72 展现出卓越的扩展效率,在处理 DeepSeek-R1 工作负载时,从单机架扩展到四机架的扩展效率达到 99%。MLPerf 套件内的软件优化也贡献显著,v6.1 版本的结果相比 v6.0 版本性能最高提升了 1.6 倍。英伟达还强调了其在代理推理(agentic inference)基准测试中的强劲表现,Vera Rubin 相比 GB300 实现了 30 倍的提升。更广泛的生态系统参与方面,共有 19 家合作伙伴在各种英伟达平台上展示了高性能成果。
nvidia