Выдача и получение ресурсов между командами с помощью управления квотами AWS Batch для задач обучения SageMaker
aws ·
AWS представила управление квотами для AWS Batch, чтобы поддержать задачи обучения Amazon SageMaker, что позволяет организациям лучше координировать общую емкость GPU между несколькими командами. Эта новая функция планирования позволяет администраторам определять доли квот для конкретных команд или проектов, используя такие стратегии, как одолжение, заимствование или резервирование простаивающих вычислительных ресурсов. Система автоматически обрабатывает межквотное прерывание (cross-share preemption) для возврата одалживаемых мощностей, когда команде-одолжителю снова требуются ее ресурсы, обеспечивая отсутствие задержек для задач с высоким приоритетом. Кроме того, внутриквотное прерывание (in-share preemption) позволяет задачам с более высоким приоритетом в рамках одной доли квоты прерывать выполнение задач с низким приоритетом при необходимости. Администраторы могут настраивать эти параметры с помощью SageMaker Python SDK, который теперь включает модуль aws_batch для программной отправки задач. В статье демонстрируется, как различные конфигурации, такие как LEND_AND_BORROW и RESERVE, учитывают разные приоритеты рабочих нагрузок и толерантность к прерываниям. Автоматизация распределения ресурсов и приоритизации помогает повысить эффективность использования вычислительных мощностей и снизить операционные издержки для администраторов инфраструктуры.
aws