Sommet de l'infrastructure IA : Les avancées de NVIDIA Vera Rubin et DSX illustrent l'efficacité énergétique des usines d'IA
nvidia ·
Lors du AI Infra Summit, NVIDIA a mis en avant les progrès réalisés en matière d'efficacité énergétique pour les usines d'IA, opérant un changement de métrique industrielle passant à la performance maximale aux tokens agents par mégawatt. Ian Buck a annoncé des collaborations avec des partenaires tels qu'Annapurna Labs (Amazon) et d-Matrix afin d'intégrer des technologies de mémoire personnalisée et NVLink Fusion. Lambda a démontré une amélioration de 23 % des performances par watt grâce au DSX MaxLPS de NVIDIA, permettant d'installer davantage de nœuds dans le même budget énergétique. Emerald AI a présenté un programme de charge flexible en partenariat avec Silicon Valley Power, permettant aux installations d'IA d'ajuster dynamiquement leur consommation d'énergie en fonction des signaux du réseau. La nouvelle plateforme Vera Rubin NVL72 offre jusqu'à 30 fois plus de débit par mégawatt par rapport aux générations précédentes, réduisant considérablement les coûts des charges de travail agents. Par ailleurs, des startups ont signalé des gains substantiels en utilisant le CPU Vera de NVIDIA pour des bac à sable sécurisés et des bases de données analytiques. Ces développements soulignent l'engagement de NVIDIA à concevoir conjointement le silicium et le réseau électrique afin de maximiser la productivité et la valeur économique.
nvidia