Orchestrer le scaling automatique des points de terminaison SageMaker AI avec AWS CDK
aws ·
La mise à jour des configurations de points de terminaison temps réel Amazon SageMaker AI via AWS CloudFormation ou CDK échoue souvent car SageMaker exige que la cible évolutive soit désenregistrée avant toute modification. Toutefois, le désenregistrement manuel entraîne des problèmes où CloudFormation perd la trace des ressources d'auto-mise à l'échelle ou laisse les piles dans un état corrompu. Pour résoudre ce problème, l'article présente un construct CDK réutilisable qui automatise le processus de désenregistrement et de renregistrement à l'aide de ressources personnalisées. Cette solution garantit que les mises à jour du point de terminaison et les modifications des paramètres d'auto-mise à l'échelle peuvent avoir lieu lors d'un seul déploiement, sans intervention manuelle. Le construct utilise trois ressources personnalisées avec un ordre de dépendance explicite : une pour désenregistrer la cible, suivie de la mise à jour du point de terminaison, puis de deux ressources asynchrones pour enregistrer la cible et attacher les politiques de mise à l'échelle. Ces composants asynchrones utilisent un motif d'attente (waiter) pour s'assurer que le point de terminaison est pleinement opérationnel avant l'application des règles de mise à l'échelle. L'implémentation inclut une logique spécifique pour gérer correctement les premiers déploiements et la suppression des piles. Les utilisateurs peuvent intégrer ce construct dans leurs piles existantes ou le déployer en tant qu'exemple autonome à partir du référentiel GitHub fourni.
aws