Разделение кластеров GPU между командами с изоляцией и справедливостью с помощью Amazon SageMaker HyperPod
aws ·
В данной статье представлена эталонная архитектура, позволяющая нескольким командам совместно использовать кластеры Amazon SageMaker HyperPod EKS при сохранении строгой изоляции и справедливости распределения ресурсов. Для централизованной аутентификации используется AWS IAM Identity Center с федерацией внешних провайдеров, таких как Microsoft Entra ID, для безопасного управления идентификацией пользователей. Авторизация обеспечивается через домены SageMaker AI и пространства имен Kubernetes, выделенные для каждой команды, что гарантирует логическое разделение рабочих нагрузок внутри кластера. Управление задачами HyperPod (HyperPod Task Governance) играет ключевую роль в enforcement квот на вычислительные ресурсы и приоритетов планировщика, предотвращая монополизацию ресурсов и обеспечивая справедливый доступ между конкурирующими командами. Архитектура также включает сетевые политики и файловые системы, совместимые со стандартом POSIX, для дополнительной изоляции данных и сетевого трафика между командами. Для финансовой подотчетности интегрирован Kubecost, предоставляющий распределение затрат на уровне пространств имен, что позволяет организациям точно отслеживать использование GPU и осуществлять возврат средств (chargeback). Такой комплексный подход позволяет различным группам, таким как команды по анализу данных и исследованиям, эффективно сотрудничать на основе дорогостоящего общего оборудования без ущерба для безопасности или операционной независимости.
aws