Amazon startet TorchNeuron, um Nvidias Dominanz mit Trainium-Chips herauszufordern
techcrunch ·
Amazon Web Services hat TorchNeuron eingeführt, ein neues Entwicklungstool, das KI-Startups dabei helfen soll, ihre Anwendungen von Nvidia-Hardware auf Amazons eigene Trainium-Chips zu migrieren. Das Tool integriert sich in PyTorch und ermöglicht es Entwicklern, die Plattform durch die Änderung nur einer Konfigurationszeile zu wechseln, ohne den Code neu schreiben zu müssen. Dieser Schritt stellt direkt Nvidias etablierten Softwarevorteil durch seine CUDA-Infrastruktur in Frage, die Nvidia derzeit zur Standardwahl für viele KI-Anwendungen macht. AWS argumentiert, dass die Nutzung von Trainium innerhalb seines Cloud-Ökosystems im Vergleich zu spezialisierten Neoclouds wie Coreweave ein besseres Preis-Leistungs-Verhältnis sowie einheitliche Trainings- und Inferenzfähigkeiten bietet. Um die Abhängigkeit von Nvidia weiter zu verringern, trägt Amazon Upstream-Codeänderungen zu PyTorch bei, um das Framework hardwareunabhängiger zu gestalten. Erste Anwender wie Deepgram berichten von einer deutlich höheren Audioverarbeitung pro Dollar nach der Migration auf die neue Plattform. Wenn diese Strategie erfolgreich ist, zielt sie darauf ab, die Entwickler-Lock-in-Situation zu durchbrechen, die Nvidia bisher auf dem AI-Hardwaremarkt dominiert hält.
techcrunch