Ressourcen zwischen Teams mit dem Quotamanagement von AWS Batch für SageMaker-Trainingsjobs verleihen und ausleihen
aws ·
AWS hat das Quotenmanagement für AWS Batch eingeführt, um Amazon SageMaker-Trainingsjobs zu unterstützen und es Organisationen zu ermöglichen, die gemeinsam genutzte GPU-Kapazität über mehrere Teams hinweg besser zu koordinieren. Diese neue Planungsfunktion ermöglicht es Administratoren, Quotenteile für bestimmte Teams oder Projekte festzulegen und dabei Strategien wie das Ausleihen, Überziehen oder Reservieren ungenutzter Rechenressourcen zu nutzen. Das System übernimmt automatisch die quotenübergreifende Vorverlagerung (Preemption), um ausgeliehene Kapazitäten zurückzugewinnen, wenn das ausleihende Team seine Ressourcen wieder benötigt, wodurch sichergestellt wird, dass priorisierte Workloads nicht verzögert werden. Darüber hinaus ermöglicht die vorquoteninterne Vorverlagerung, dass Jobs mit höherer Priorität innerhalb derselben Quote laufende Jobs mit niedrigerer Priorität unterbrechen können, falls erforderlich. Administratoren können diese Einstellungen über die SageMaker Python SDK konfigurieren, die nun ein aws_batch-Modul für die programmgesteuerte Jobeinreichung enthält. Der Artikel zeigt auf, wie verschiedene Konfigurationen, wie LEND_AND_BORROW im Vergleich zu RESERVE, unterschiedlichen Anforderungen an Workload-Prioritäten und Unterbrechungstoleranzen gerecht werden. Durch die Automatisierung der Ressourcenzuteilung und Priorisierung hilft diese Funktion, die Auslastung der Rechenkapazität zu erhöhen und den Betriebsaufwand für Infrastrukturadministratoren zu reduzieren.
aws