使用 Amazon SageMaker 训练会话 API 编写自定义训练循环而无需管理 GPU
aws ·
Amazon SageMaker AI 推出了训练会话 API，使开发人员能够在无需管理 GPU 基础设施的情况下编写自定义训练循环。该服务抽象了计算资源，让用户能够控制算法细节（如自定义损失函数或强化学习奖励信号），而由 SageMaker 处理分布式执行和故障恢复。其编程模型依赖三个 SDK 客户端：用于设置的 ServiceClient、用于 forward_backward 和 optim_step 等操作 TrainingClient，以及用于生成的 SamplingClient。计费基于处理的 token 数量而非按小时使用 GPU，这降低了本地计算密集型工作负载的成本。文章通过 GSM8K 数学基准测试上的最小化 GRPO 循环以及针对竞技编程的更复杂代码强化学习配方展示了这一方法。这些示例表明，研究人员可以快速迭代新技术，同时利用托管加速器。此次发布还包括一个包含现成配方的食谱库，支持监督微调和各种强化学习方法。
aws