使用Amazon SageMaker HyperPod在团队间共享GPU集群以实现隔离和公平性
aws ·
本文介绍了一种参考架构，旨在使多个团队能够共享 Amazon SageMaker HyperPod EKS 集群，同时保持严格的隔离性和公平性。该架构利用 AWS IAM Identity Center 进行集中式身份验证，并与 Microsoft Entra ID 等外部提供商联合，以安全地管理用户身份。授权通过每个团队的 SageMaker AI 域和 Kubernetes 命名空间来处理，确保每个团队的工作负载在集群内逻辑分离。HyperPod Task Governance 发挥着关键作用，通过强制执行计算配额和调度优先级，防止资源垄断并确保竞争团队之间的公平访问。该架构还结合了网络策略和符合 POSIX 标准的文件系统，以进一步隔离团队间的数据和流量。为了实现财务问责，集成了 Kubecost 以提供命名空间级别的成本分配，使组织能够准确跟踪和分摊 GPU 使用费用。这种全面的方法使得数据科学和研究团队等不同群体能够在共享昂贵硬件的情况下高效协作，而不会损害安全性或运营独立性。
aws