Amazon lança TorchNeuron para desafiar o domínio da Nvidia com os chips Trainium
techcrunch ·
A Amazon Web Services lançou o TorchNeuron, uma nova ferramenta de desenvolvimento projetada para ajudar startups de IA a migrar seus aplicativos do hardware da Nvidia para os chips Trainium personalizados da Amazon. A ferramenta integra-se ao PyTorch, permitindo que os desenvolvedores mudem de plataforma modificando apenas uma linha de configuração, sem reescrever o código. Este movimento desafia diretamente a vantagem consolidada da Nvidia em software, proporcionada por sua infraestrutura CUDA, que atualmente torna a Nvidia a escolha padrão para muitos aplicativos de IA. A AWS argumenta que o uso do Trainium dentro de seu ecossistema de nuvem oferece melhor custo-benefício e capacidades unificadas de treinamento e inferência, em comparação com neoclouds especializadas como a Coreweave. Para reduzir ainda mais a dependência da Nvidia, a Amazon está contribuindo com alterações de código no PyTorch para tornar o framework mais independente de hardware. Adotantes iniciais, como a Deepgram, relatam processamento significativamente mais áudio por dólar após a migração para a nova plataforma. Se bem-sucedida, essa estratégia visa quebrar o bloqueio dos desenvolvedores que tem mantido a Nvidia dominante no mercado de hardware de IA.
techcrunch