AI Infra Summit: Усовершенствования платформ NVIDIA Vera Rubin и DSX демонстрируют энергоэффективность оптимизации токенов на ватт для ИИ-фабрик
nvidia ·
На саммите AI Infra Summit компания NVIDIA представила достижения в области энергоэффективности для ИИ-фабрик, сместив отраслевой фокус с пиковой производительности на агентские токены на мегаватт. Иэн Бак объявил о партнерствах с Amazon Annapurna Labs и d-Matrix для интеграции технологий пользовательской памяти и NVLink Fusion. Компания Lambda продемонстрировала улучшение производительности на ватт на 23% благодаря NVIDIA DSX MaxLPS, что позволяет размещать больше узлов в рамках того же бюджета по мощности. Emerald AI показала программу гибкой нагрузки совместно с Silicon Valley Power, позволяющую ИИ-сооружениям динамически регулировать потребление энергии в зависимости от сигналов сети. Новая платформа Vera Rubin NVL72 обеспечивает пропускную способность на мегаватт до 30 раз выше по сравнению с предыдущими поколениями, значительно снижая затраты на агентские рабочие нагрузки. Кроме того, стартапы сообщили о существенном росте показателей при использовании процессора NVIDIA Vera для защищенных песочниц и аналитических баз данных. Эти разработки подчеркивают внимание NVIDIA к совместному проектированию кремния и энергосетей для максимизации производительности и экономической ценности.
nvidia