AI Infra Summit: NVIDIA Vera Rubin und DSX-Plattformfortschritte zeigen Energieeffizienz bei der Optimierung von Tokens pro Watt für KI-Fabriken
nvidia ·
Auf dem AI Infra Summit hob NVIDIA Fortschritte bei der Energieeffizienz von KI-Fabriken hervor und verlagerte den branchenweiten Messwert von der Spitzenleistung hin zu agentic Tokens pro Megawatt. Ian Buck kündigte Kooperationen mit Partnern wie Amazon’s Annapurna Labs und d-Matrix an, um benutzerdefinierten Speicher und NVLink Fusion-Technologien zu integrieren. Lambda demonstrierte eine Leistungssteigerung pro Watt um 23 % durch NVIDIA DSX MaxLPS, wodurch mehr Knoten innerhalb desselben Strombudgets betrieben werden können. Emerald AI präsentierte ein flexibles Lastmanagement in Zusammenarbeit mit Silicon Valley Power, das es KI-Einrichtungen ermöglicht, den Energieverbrauch dynamisch an Netzsignale anzupassen. Die neue Vera Rubin NVL72-Plattform bietet bis zu 30-fach höheren Durchsatz pro Megawatt im Vergleich zu vorherigen Generationen, was die Kosten für agentic Workloads erheblich senkt. Zudem berichteten Startups von erheblichen Verbesserungen durch den Einsatz der NVIDIA Vera CPU für sichere Sandboxes und analytische Datenbanken. Diese Entwicklungen unterstreichen NVIDIAs Fokus auf die Codesignierung von Silizium bis zum Stromnetz, um Produktivität und wirtschaftlichen Wert zu maximieren.
nvidia