Anúncio de listas de preferência de instâncias para trabalhos de treinamento do Amazon SageMaker AI
aws ·
O Amazon SageMaker AI introduziu as Listas de Preferência de Instâncias para simplificar a alocação de recursos de GPU em trabalhos de treinamento e processamento. Essa nova funcionalidade permite que os usuários submetam um único trabalho com uma lista ordenada de até cinco tipos de instância aceitáveis, permitindo que a plataforma selecione automaticamente a primeira capacidade disponível. Ao avaliar as instâncias em ordem de prioridade, o SageMaker reduz os tempos de espera durante picos de demanda e elimina a necessidade de scripts de retry manual ou ferramentas de monitoramento complexas. A solução integra-se perfeitamente aos Planos Flexíveis de Treinamento, permitindo que a capacidade reservada tenha precedência, com fallback para opções sob demanda caso as reservas se esgotem. Os usuários podem configurar contagens de instâncias por preferência para garantir equivalência de throughput entre diferentes arquiteturas de GPU. Além disso, o parâmetro MaxPendingTimeInSeconds oferece controle sobre a duração da fila para instâncias de computação acelerada. Esta atualização transforma o gerenciamento de GPUs de um encargo manual de engenharia em uma simples alteração de configuração, ajudando as equipes a focarem mais no desenvolvimento de modelos.
aws