Amazon запускает TorchNeuron для конкуренции с Nvidia на базе чипов Trainium
techcrunch ·
Amazon Web Services запустила новый инструмент разработки TorchNeuron, предназначенный для помощи стартапам в сфере ИИ при миграции их приложений с оборудования Nvidia на собственные чипы Trainium от Amazon. Инструмент интегрируется с PyTorch, позволяя разработчикам переключать платформы, изменяя всего одну строку конфигурации без необходимости переписывания кода. Этот шаг напрямую бросает вызов устоявшемуся программному преимуществу Nvidia, обеспечиваемому его инфраструктурой CUDA, которая в настоящее время делает Nvidia выбором по умолчанию для многих приложений ИИ. AWS утверждает, что использование Trainium в рамках своей облачной экосистемы обеспечивает лучшее соотношение цены и производительности, а также единые возможности обучения и вывода моделей по сравнению со специализированными «неоклаудами», такими как Coreweave. Чтобы дополнительно снизить зависимость от Nvidia, Amazon вносит изменения в исходный код PyTorch, делая эту фреймворк более независимой от конкретного оборудования. Ранние пользователи, такие как Deepgram, сообщают о значительном увеличении объема обрабатываемого аудио на каждый доллар после перехода на новую платформу. В случае успеха эта стратегия направлена на разрушение «привязки» разработчиков, которая долгое время поддерживала доминирование Nvidia на рынке аппаратного обеспечения для ИИ.
techcrunch