Avances en NVIDIA Vera Rubin y DSX muestran la eficiencia energética de optimizar tokens por vatio para fábricas de IA
nvidia ·
En la Cumbre de Infraestructura de IA, NVIDIA destacó los avances en eficiencia energética para las fábricas de IA, desplazando la métrica de la industria desde el rendimiento pico hacia los tokens agénticos por megavatio. Ian Buck anunció colaboraciones con socios como Annapurna Labs de Amazon y d-Matrix para integrar tecnologías de memoria personalizada y NVLink Fusion. Lambda demostró una mejora del 23 % en el rendimiento por vatio utilizando NVIDIA DSX MaxLPS, lo que permite alojar más nodos dentro del mismo presupuesto energético. Emerald AI presentó un programa de carga flexible junto con Silicon Valley Power, que habilita a las instalaciones de IA ajustar dinámicamente su consumo energético según las señales de la red eléctrica. La nueva plataforma Vera Rubin NVL72 ofrece hasta 30 veces más capacidad de procesamiento por megavatio en comparación con generaciones anteriores, reduciendo significativamente los costos para cargas de trabajo agénticas. Además, startups reportaron ganancias sustanciales al utilizar la CPU Vera de NVIDIA para entornos sandbox seguros y bases de datos analíticas. Estos desarrollos subrayan el enfoque de NVIDIA en la co-diseño desde el silicio hasta la red eléctrica para maximizar la productividad y el valor económico.
nvidia