Amazon presenta TorchNeuron para desafiar a Nvidia con sus chips Trainium
techcrunch ·
Amazon Web Services ha lanzado TorchNeuron, una nueva herramienta de desarrollo diseñada para ayudar a las startups de inteligencia artificial a migrar sus aplicaciones desde el hardware de Nvidia a los chips Trainium personalizados de Amazon. La herramienta se integra con PyTorch, lo que permite a los desarrolladores cambiar de plataforma modificando solo una línea de configuración sin necesidad de reescribir el código. Este movimiento desafía directamente la ventaja de software arraigada de Nvidia, proporcionada por su infraestructura CUDA, que actualmente convierte a Nvidia en la opción predeterminada para muchas aplicaciones de IA. AWS argumenta que utilizar Trainium dentro de su ecosistema en la nube ofrece un mejor rendimiento por precio y capacidades unificadas de entrenamiento e inferencia en comparación con neoclouds especializados como Coreweave. Para reducir aún más la dependencia de Nvidia, Amazon está contribuyendo con cambios de código al repositorio principal de PyTorch para hacer que el marco sea más independiente del hardware. Los primeros adoptantes, como Deepgram, reportan procesar significativamente más audio por dólar después de migrar a la nueva plataforma. Si tiene éxito, esta estrategia busca romper el bloqueo de los desarrolladores que ha mantenido a Nvidia dominante en el mercado de hardware de IA.
techcrunch