Объявление о списках предпочтений экземпляров для задач обучения Amazon SageMaker AI
aws ·
Amazon SageMaker AI представила списки предпочтений инстансов (Instance Preference Lists) для оптимизации распределения ресурсов GPU при выполнении задач обучения и обработки. Эта новая функция позволяет пользователям отправлять одну задачу с упорядоченным списком из до пяти приемлемых типов инстансов, что дает платформе возможность автоматически выбирать первый доступный вариант. Оценивая инстансы в порядке приоритета, SageMaker сокращает время ожидания в периоды пиковой нагрузки и устраняет необходимость в ручных скриптах повторных попыток или сложных инструментах мониторинга. Решение бесшовно интегрируется с Гибкими планами обучения (Flexible Training Plans), обеспечивая приоритетное использование зарезервированных мощностей с переходом на опционные ресурсы по требованию при их исчерпании. Пользователи могут настраивать количество инстансов для каждого предпочтения, чтобы обеспечить эквивалентность пропускной способности между различными архитектурами GPU. Кроме того, параметр MaxPendingTimeInSeconds предоставляет контроль над продолжительностью нахождения в очереди для ускоренных вычислительных инстансов. Это обновление превращает управление GPU из ручной инженерной задачи в простое изменение конфигурации, помогая командам сосредоточиться на разработке моделей.
aws