NVIDIA Vera Rubin e DSX: Efficienza Energetica e Token per Watt nelle Fabbriche di IA
nvidia ·
All'AI Infra Summit, NVIDIA ha evidenziato i progressi nell'efficienza energetica per le fabbriche di intelligenza artificiale, spostando il metrico del settore dalle prestazioni massime ai token agentic per megawatt. Ian Buck ha annunciato collaborazioni con partner come Amazon Annapurna Labs e d-Matrix per integrare tecnologie di memoria personalizzata e NVLink Fusion. Lambda ha dimostrato un miglioramento del 23% nelle prestazioni per watt utilizzando NVIDIA DSX MaxLPS, consentendo l'inserimento di più nodi entro lo stesso budget energetico. Emerald AI ha presentato un programma di carico flessibile con Silicon Valley Power, che consente alle strutture di IA di regolare dinamicamente il consumo energetico in base ai segnali della rete elettrica. La nuova piattaforma Vera Rubin NVL72 offre fino a 30 volte più throughput per megawatt rispetto alle generazioni precedenti, riducendo significativamente i costi per i carichi di lavoro agentic. Inoltre, startup hanno riportato guadagni sostanziali utilizzando la CPU NVIDIA Vera per sandbox sicuri e database analitici. Questi sviluppi sottolineano l'attenzione di NVIDIA al codesign dal silicio alla rete elettrica per massimizzare produttività e valore economico.
nvidia