Compartir clústeres de GPU entre equipos con aislamiento y equidad usando Amazon SageMaker HyperPod
aws ·
Este artículo presenta una arquitectura de referencia para permitir que múltiples equipos compartan clústeres EKS de Amazon SageMaker HyperPod, manteniendo un aislamiento estricto y equidad. Utiliza AWS IAM Identity Center para la autenticación centralizada, federándose con proveedores externos como Microsoft Entra ID para gestionar las identidades de los usuarios de forma segura. La autorización se maneja a través de dominios de SageMaker AI por equipo y espacios de nombres de Kubernetes, lo que garantiza que las cargas de trabajo de cada equipo estén separadas lógicamente dentro del clúster. La gobernanza de tareas de HyperPod desempeña un papel fundamental al imponer cuotas de cómputo y prioridades de programación para evitar la monopolización de recursos y asegurar un acceso justo entre los equipos en competencia. La arquitectura también incorpora políticas de red y sistemas de archivos compatibles con POSIX para aislar aún más los datos y el tráfico entre equipos. Para la responsabilidad financiera, Kubecost está integrado para proporcionar la asignación de costos a nivel de espacio de nombres, permitiendo a las organizaciones rastrear y cargar los costos del uso de GPU con precisión. Este enfoque integral permite que grupos diversos, como equipos de ciencia de datos e investigación, colaboren eficientemente en hardware costoso compartido sin comprometer la seguridad ni la independencia operativa.
aws