亚马逊推出TorchNeuron工具,以Trainium芯片挑战英伟达
techcrunch ·
亚马逊网络服务(AWS)推出了TorchNeuron,这是一款旨在帮助AI初创公司将其应用从英伟达硬件迁移至亚马逊自研Trainium芯片的新开发工具。该工具与PyTorch集成,开发者只需修改一行配置即可切换平台,而无需重写代码。此举直接挑战了英伟达凭借其CUDA基础设施所建立的牢固软件优势,目前英伟达仍是许多AI应用的默认选择。AWS表示,在其云生态系统中使用Trainium相比Coreweave等专用“新云”服务商,能提供更具性价比的性能以及统一的训练和推理能力。为减少对英伟达的依赖,亚马逊还向PyTorch贡献了上游代码更改,以使该框架更加硬件无关。早期采用者如Deepgram报告称,迁移到新平台后每美元处理的音频量显著增加。如果成功,这一战略旨在打破使英伟达在AI硬件市场保持主导地位的开发者锁定效应。
techcrunch