Emprestar e usar recursos entre equipes com o gerenciamento de cotas do AWS Batch para trabalhos de treinamento do SageMaker
aws ·
A AWS introduziu o gerenciamento de cotas no AWS Batch para suportar trabalhos de treinamento do Amazon SageMaker, permitindo que as organizações coordenem melhor a capacidade compartilhada de GPUs entre múltiplas equipes. Essa nova capacidade de agendamento permite que os administradores definam cotas específicas para determinadas equipes ou projetos, utilizando estratégias como empréstimo, empréstimo com devolução (borrowing) ou reserva de recursos de computação ociosos. O sistema gerencia automaticamente a preempção entre cotas para recuperar a capacidade emprestada quando a equipe credora precisa de seus recursos de volta, garantindo que cargas de trabalho prioritárias não sofram atrasos. Além disso, a preempção dentro da mesma cota permite que trabalhos de maior prioridade interrompam trabalhos em execução de menor prioridade na mesma quota share, se necessário. Os administradores podem configurar essas configurações usando o SageMaker Python SDK, que agora inclui um módulo aws_batch para submissão programática de trabalhos. O artigo demonstra como diferentes configurações, como LEND_AND_BORROW versus RESERVE, atendem a diversas prioridades de carga de trabalho e tolerâncias a interrupções. Ao automatizar a alocação de recursos e a definição de prioridades, esse recurso ajuda a aumentar a utilização da computação enquanto reduz a sobrecarga operacional para os administradores de infraestrutura.
aws