NVIDIA Vera Rubin NVL72 offre prestazioni leader nel debutto di MLPerf Inference v6.1
nvidia ·
NVIDIA ha annunciato che il suo sistema Vera Rubin NVL72 ha ottenuto le prestazioni migliori nella sua prima partecipazione a MLPerf Inference v6.1. La nuova piattaforma offre un throughput fino a 3,7 volte superiore rispetto al precedente GB300 NVL72 nel benchmark Qwen3-VL e fino a 2,5 volte maggiore nel DeepSeek-R1. Questi miglioramenti sono attribuiti alla progettazione integrata dell'intero stack, che include Tensor Core potenziati, Transformer Engine e la precisione NVFP4, la quale riduce l'impronta di memoria. Inoltre, il GB300 NVL72 ha dimostrato un'efficienza di scalabilità eccezionale, raggiungendo il 99% di scalabilità passando da uno a quattro rack per i carichi di lavoro DeepSeek-R1. Le ottimizzazioni software all'interno della suite MLPerf hanno contribuito in modo significativo, con i risultati della versione 6.1 che mostrano una prestazione fino a 1,6 volte superiore rispetto alla versione 6.0. NVIDIA ha anche evidenziato ottimi risultati nei benchmark di inferenza agentic, dove Vera Rubin ha registrato un miglioramento di 30 volte rispetto a GB300. La partecipazione più ampia all'ecosistema ha visto 19 partner dimostrare alte prestazioni su varie piattaforme NVIDIA.
nvidia