Ankündigung von Instanzpräferenzlisten für Amazon SageMaker AI-Trainingsjobs
aws ·
Amazon SageMaker AI hat Instance Preference Lists eingeführt, um die Zuteilung von GPU-Ressourcen für Trainings- und Verarbeitungsjobs zu vereinfachen. Mit dieser neuen Funktion können Nutzer einen einzelnen Job mit einer sortierten Liste von bis zu fünf akzeptablen Instanztypen einreichen, wodurch die Plattform automatisch die erste verfügbare Kapazität auswählt. Durch die Bewertung der Instanzen in Prioritätsreihenfolge reduziert SageMaker die Wartezeiten während Spitzenlasten und eliminiert die Notwendigkeit manueller Retry-Skripte oder komplexer Überwachungstools. Die Lösung integriert sich nahtlos in Flexible Training Plans, sodass reservierte Kapazitäten Vorrang haben, während auf On-Demand-Optionen zurückgegriffen wird, falls die Reservierungen erschöpft sind. Nutzer können pro Präferenz Instanzzahlen konfigurieren, um eine äquivalente Durchsatzleistung über verschiedene GPU-Architekturen hinweg sicherzustellen. Darüber hinaus bietet der Parameter MaxPendingTimeInSeconds Kontrolle über die Warteschlangenlaufzeit für beschleunigte Computing-Instanzen. Dieses Update verwandelt das manuelle Engineering bei der GPU-Verwaltung in eine einfache Konfigurationsänderung und hilft Teams, sich stärker auf die Modellentwicklung zu konzentrieren.
aws