De Megavatios a Tokens: Cómo NVIDIA Maximiza la Producción de Fábricas de IA
nvidia ·
NVIDIA ha presentado su plataforma DSX para optimizar la producción en las fábricas de inteligencia artificial, maximizando el rendimiento de tokens dentro de límites fijos de energía. Los despliegues iniciales demuestran que la gestión inteligente de cargas de trabajo puede aumentar el rendimiento total de tokens del clúster en un 24 % sin ampliar el consumo energético. El sistema permite a los centros de datos responder automáticamente a las señales de la red eléctrica, reduciendo la demanda de energía durante los picos de uso mientras mantiene las tareas críticas de alta prioridad. Lambda Cloud validó estas capacidades, mostrando mejoras significativas en el rendimiento por vatio mediante servidores GPU NVIDIA HGX B200. Además, NVIDIA está desarrollando una arquitectura de alimentación de corriente continua de 800 V para mejorar aún más la eficiencia y soportar racks de computación más densos para futuras generaciones como Vera Rubin. Al co-diseñar sistemas de cómputo, redes y refrigeración, la plataforma busca resolver cuellos de botella de infraestructura que suelen retrasar la construcción de nuevas líneas de transmisión. Este enfoque integral asegura que las fábricas de IA se conviertan en recursos despachables que funcionen armoniosamente con la red eléctrica. En última instancia, la tecnología busca ofrecer más trabajo de cómputo útil por cada megavatio consumido.
nvidia