Automatische Skalierung von SageMaker AI-Endpunkten mit AWS CDK orchestrieren
aws ·
Das Aktualisieren der Konfigurationen von Echtzeit-Endpunkten in Amazon SageMaker AI über AWS CloudFormation oder CDK schlägt häufig fehl, da SageMaker erfordert, dass das skalierbare Ziel vor den Änderungen abgemeldet wird. Eine manuelle Abmeldung führt jedoch dazu, dass CloudFormation den Überblick über die Auto-Scaling-Ressourcen verliert oder Stacks in einem defekten Zustand zurückbleiben. Um dieses Problem zu lösen, stellt der Artikel ein wiederverwendbares CDK-Konstrukt vor, das den Prozess der Abmeldung und erneuten Registrierung mithilfe von benutzerdefinierten Ressourcen automatisiert. Diese Lösung gewährleistet, dass Endpunktaktualisierungen und Änderungen an den Auto-Scaling-Parametern in einer einzigen Bereitstellung ohne manuelles Eingreifen erfolgen können. Das Konstrukt verwendet drei benutzerdefinierte Ressourcen mit expliziter Abhängigkeitsreihenfolge: eine zur Abmeldung des Ziels, gefolgt von der Endpunktaktualisierung und anschließend zwei asynchrone Ressourcen zur Registrierung des Ziels und zum Anfügen von Skalierungsrichtlinien. Diese asynchronen Komponenten nutzen ein Waiter-Muster, um sicherzustellen, dass der Endpunkt vollständig betriebsbereit ist, bevor Skalierungsregeln angewendet werden. Die Implementierung enthält spezifische Logik, um erste Bereitstellungen und Stack-Löschungen ordnungsgemäß zu verarbeiten. Benutzer können dieses Konstrukt in bestehende Stacks integrieren oder es als eigenständiges Beispiel aus dem bereitgestellten GitHub-Repository bereitstellen.
aws