通过 AWS Batch 的配额管理在团队间借贷 SageMaker 训练作业资源
aws ·
AWS 为 AWS Batch 引入了配额管理功能,以支持 Amazon SageMaker 训练作业,使组织能够更好地协调多个团队之间的共享 GPU 容量。这一新的调度能力允许管理员为特定团队或项目定义配额份额,采用借用、贷出或预留空闲计算资源等策略。系统会自动处理跨配额抢占(cross-share preemption),在贷出方需要收回资源时重新获取已借出的容量,确保高优先级工作负载不会延迟。此外,同配额内抢占(in-share preemption)机制允许在必要时中断同一配额份额中运行中的低优先级作业,以便让位于更高优先级的作业。管理员可以使用 SageMaker Python SDK 配置这些设置,该 SDK 现已包含用于程序化提交作业的 aws_batch 模块。文章展示了不同配置(如 LEND_AND_BORROW 与 RESERVE)如何适应不同的工作负载优先级和对中断的容忍度。通过自动化资源分配和优先级排序,此功能有助于提高计算利用率,同时降低基础设施管理员的运维开销。
aws