Partager des clusters GPU entre équipes avec isolement et équité via Amazon SageMaker HyperPod
aws ·
Cet article présente une architecture de référence permettant à plusieurs équipes de partager des clusters Amazon SageMaker HyperPod EKS tout en maintenant une isolation stricte et l'équité. Il utilise AWS IAM Identity Center pour l'authentification centralisée, avec une fédération auprès de fournisseurs externes tels que Microsoft Entra ID afin de gérer les identités des utilisateurs en toute sécurité. L'autorisation est gérée via des domaines SageMaker AI et des espaces de noms Kubernetes par équipe, garantissant que les charges de travail de chaque équipe sont logiquement séparées au sein du cluster. La gouvernance des tâches HyperPod joue un rôle crucial en appliquant des quotas de calcul et des priorités d'ordonnancement pour empêcher la monopolisation des ressources et assurer un accès équitable entre les équipes concurrentes. L'architecture intègre également des politiques réseau et des systèmes de fichiers conformes à POSIX pour isoler davantage les données et le trafic entre les équipes. Pour la responsabilité financière, Kubecost est intégré afin de fournir une allocation des coûts au niveau de l'espace de noms, permettant aux organisations de suivre et de facturer précisément l'utilisation des GPU. Cette approche globale permet à des groupes divers, tels que les équipes de science des données et de recherche, de collaborer efficacement sur du matériel coûteux partagé sans compromettre la sécurité ou l'indépendance opérationnelle.
aws