Vom Training zur Produktion: NVIDIA und CoreWeave schließen den Kreislauf der Agentic AI
nvidia ·
NVIDIA und CoreWeave haben die Produktionsverfügbarkeit der NVIDIA Vera Rubin NVL72-Systeme angekündigt, was einen bedeutenden Schritt zur Schließung des Kreislaufs in der Entwicklung agentic AI darstellt. Cognition, der Entwickler der Devin AI-Softwareentwicklungsplattform, ist der erste Kunde, der Produktionsarbeitslasten auf dieser neuen Infrastruktur ausführt und dabei eine Steigerung der Token-Durchsatzrate um bis zu das 4,8-Fache im Vergleich zu vorherigen Generationen erzielt hat. CoreWeave führt zudem den NVIDIA Vera-CPU ein, der speziell für agentic Arbeitslasten konzipiert wurde und in Tests mehr als dreimal schnellere Sandbox-Startzeiten zeigte. Zur Vereinfachung des KI-Lebenszyklus hat CoreWeave Forge eingeführt, eine einheitliche Umgebung, die Trainings-, Evaluierungs- und Produktionsdaten verbindet, um die Modellleistung kontinuierlich zu verbessern. Diese Plattform integriert Tools wie CoreWeave ARIA und Agent Lens, um Erkenntnisse aus dem Produktivbetrieb in umsetzbare Verbesserungen für Modelle und Agenten umzuwandeln. Die Zusammenarbeit nutzt fast ein Jahrzehnt gemeinsamer Ingenieursarbeit, um sicherzustellen, dass die Infrastruktur über mehrere Hardwaregenerationen hinweg langlebig und kosteneffektiv bleibt. Unternehmen wie Canva, Capital One und Ennoble Care nutzen diese Lösungen bereits, um ihre KI-Operationen vom Prototyp bis zur Echtzeit-Einsatzbereitschaft zu skalieren.
nvidia