使用 AWS CDK 编排 SageMaker AI 端点自动扩缩容
aws ·
通过 AWS CloudFormation 或 CDK 更新 Amazon SageMaker AI 实时端点配置时,由于 SageMaker 要求在修改前注销可扩展目标,操作通常会失败。然而,手动注销会导致 CloudFormation 丢失对自动扩缩容资源的跟踪,或使堆栈处于损坏状态。为解决此问题,本文介绍了一种可重用的 CDK 构造器,它利用自定义资源自动化了注销和重新注册的过程。该解决方案确保端点更新和自动扩缩容参数更改可以在单次部署中完成,无需人工干预。该构造器使用三个具有明确依赖顺序的自定义资源:首先注销目标,然后更新端点,最后通过两个异步资源重新注册目标并附加扩缩容策略。这些异步组件采用等待者(waiter)模式,以确保在应用扩缩容规则之前端点已完全正常运行。实现逻辑还包含优雅处理首次部署和堆栈删除的具体机制。用户可以将此构造器集成到现有堆栈中,或通过提供的 GitHub 仓库作为独立示例进行部署。
aws