NVIDIA Vera Rubin NVL72 liefert führende Leistung beim Debüt in MLPerf Inference v6.1
nvidia ·
NVIDIA hat angekündigt, dass sein Vera Rubin NVL72-System bei seinem Debüt-Eintrag in MLPerf Inference v6.1 die beste Leistung erzielt hat. Die neue Plattform bietet bis zu 3,7-mal höheren Durchsatz als das vorherige GB300 NVL72 im Qwen3-VL-Benchmark und bis zu 2,5-mal höheren Durchsatz bei DeepSeek-R1. Diese Verbesserungen werden auf ein Full-Stack-Codeesign zurückgeführt, das verbesserte Tensor Cores, Transformer Engines und NVFP4-Präzision umfasst, welche den Speicherbedarf reduzieren. Darüber hinaus zeigte das GB300 NVL72 eine außergewöhnliche Skalierungseffizienz: Bei der Erweiterung von einem auf vier Racks für DeepSeek-R1-Workloads wurde eine Skalierung von 99 % erreicht. Softwareoptimierungen innerhalb der MLPerf-Suite trugen erheblich dazu bei; die Ergebnisse von v6.1 wiesen im Vergleich zu Version 6.0 eine um bis zu 1,6-fach höhere Leistung auf. NVIDIA hob zudem starke Ergebnisse in agentic Inference Benchmarks hervor, wobei Vera Rubin eine 30-fache Verbesserung gegenüber dem GB300 zeigte. Am breiteren Ökosystem waren 19 Partner beteiligt, die hohe Leistung über verschiedene NVIDIA-Plattformen hinweg demonstrierten.
nvidia