宣布为Amazon SageMaker AI训练作业引入实例偏好列表
aws ·
Amazon SageMaker AI 推出了实例偏好列表（Instance Preference Lists），以简化训练和处理作业的 GPU 资源分配。该新功能允许用户提交一个包含最多五个可接受实例类型的有序列表的作业，使平台能够自动选择第一个可用的容量。通过按优先级顺序评估实例，SageMaker 在需求高峰期减少了等待时间，并消除了对手动重试脚本或复杂监控工具的需求。该解决方案与灵活训练计划（Flexible Training Plans）无缝集成，允许预留容量优先使用，而在预留容量耗尽时回退到按需选项。用户可以配置每个偏好的实例数量，以确保不同 GPU 架构之间的吞吐量等效性。此外，MaxPendingTimeInSeconds 参数提供了对加速计算实例队列持续时间的控制。此次更新将 GPU 管理从繁琐的工程负担转变为简单的配置更改，帮助团队更专注于模型开发。
aws