Orquestrando o dimensionamento automático de endpoints do SageMaker AI com AWS CDK
aws ·
Atualizar as configurações de endpoints em tempo real do Amazon SageMaker AI por meio do AWS CloudFormation ou CDK frequentemente falha porque o SageMaker exige que o alvo escalável seja desregistrado antes das alterações. No entanto, a desregistro manual leva a problemas em que o CloudFormation perde o controle dos recursos de autoescalonamento ou deixa as pilhas em estado incorreto. Para resolver isso, o artigo apresenta uma construção reutilizável do CDK que automatiza o processo de desregistro e reregistro usando recursos personalizados. Essa solução garante que as atualizações de endpoint e as alterações nos parâmetros de autoescalonamento possam ocorrer em um único deploy sem intervenção manual. A construção emprega três recursos personalizados com ordenação explícita de dependências: um para desregistrar o alvo, seguido pela atualização do endpoint e, em seguida, dois recursos assíncronos para registrar o alvo e anexar políticas de escalonamento. Esses componentes assíncronos usam o padrão 'waiter' para garantir que o endpoint esteja totalmente operacional antes de aplicar as regras de escalonamento. A implementação inclui lógica específica para lidar com os primeiros deploys e exclusões de pilhas de forma adequada. Os usuários podem integrar essa construção em pilhas existentes ou implantá-la como um exemplo independente no repositório GitHub fornecido.
aws