Compartilhar clusters de GPU entre equipes com isolamento e justiça usando o Amazon SageMaker HyperPod
aws ·
Este artigo apresenta uma arquitetura de referência para permitir que múltiplas equipes compartilhem clusters do Amazon SageMaker HyperPod EKS, mantendo isolamento rigoroso e justiça. Utiliza o AWS IAM Identity Center para autenticação centralizada, com integração federada a provedores externos como o Microsoft Entra ID para gerenciar identidades de usuários de forma segura. A autorização é gerenciada por meio de domínios do SageMaker AI e namespaces do Kubernetes específicos por equipe, garantindo que as cargas de trabalho de cada equipe estejam logicamente separadas dentro do cluster. A Governança de Tarefas do HyperPod desempenha um papel crucial ao impor cotas de computação e prioridades de agendamento, evitando a monopolização de recursos e assegurando acesso justo entre equipes concorrentes. A arquitetura também incorpora políticas de rede e sistemas de arquivos compatíveis com POSIX para isolar ainda mais dados e tráfego entre as equipes. Para responsabilidade financeira, o Kubecost é integrado para fornecer alocação de custos em nível de namespace, permitindo que as organizações rastreiem e cobrem o uso de GPUs com precisão. Essa abordagem abrangente permite que grupos diversos, como equipes de ciência de dados e pesquisa, colaborem eficientemente em hardware caro compartilhado sem comprometer a segurança ou a independência operacional.
aws