Оркестрация автоматического масштабирования конечных точек SageMaker AI с помощью AWS CDK
aws ·
Обновление конфигураций реального времени для Amazon SageMaker AI с помощью AWS CloudFormation или CDK часто завершается неудачей, поскольку SageMaker требует предварительной отмены регистрации масштабируемой цели перед внесением изменений. Однако ручная отмена регистрации приводит к проблемам: CloudFormation теряет отслеживание ресурсов автоматического масштабирования или оставляет стеки в нерабочем состоянии. Для решения этой проблемы статья предлагает переиспользуемый конструктор CDK, который автоматизирует процесс отмены и повторной регистрации с использованием пользовательских ресурсов. Это решение позволяет обновлять конечные точки и изменять параметры автоматического масштабирования в рамках одного развертывания без ручного вмешательства. Конструктор использует три пользовательских ресурса с явным порядком зависимостей: сначала выполняется отмена регистрации цели, затем обновление конечной точки, а после этого — два асинхронных ресурса для регистрации цели и прикрепления политик масштабирования. Эти асинхронные компоненты используют паттерн ожидания (waiter), чтобы убедиться, что конечная точка полностью функционирует, прежде чем применять правила масштабирования. Реализация включает специальную логику для корректной обработки первых развертываний и удаления стеков. Пользователи могут интегрировать этот конструктор в существующие стеки или развернуть его как отдельный пример из предоставленного репозитория GitHub.
aws