Annonce des listes de préférence d'instances pour les travaux d'entraînement Amazon SageMaker AI
aws ·
Amazon SageMaker AI a introduit les listes de préférence d'instances pour rationaliser l'allocation des ressources GPU destinées aux tâches d'entraînement et de traitement. Cette nouvelle fonctionnalité permet aux utilisateurs de soumettre une seule tâche accompagnée d'une liste ordonnée d'au maximum cinq types d'instances acceptables, ce qui permet à la plateforme de sélectionner automatiquement la première capacité disponible. En évaluant les instances selon un ordre de priorité, SageMaker réduit les temps d'attente lors des périodes de forte demande et élimine le besoin de scripts de relance manuels ou d'outils de surveillance complexes. La solution s'intègre parfaitement aux plans d'entraînement flexibles (Flexible Training Plans), permettant aux capacités réservées de prendre le pas tout en revenant aux options à la demande si les réservations sont épuisées. Les utilisateurs peuvent configurer des compteurs d'instances par préférence afin de garantir une équivalence de débit entre différentes architectures GPU. De plus, le paramètre MaxPendingTimeInSeconds offre un contrôle sur la durée d'attente dans la file d'attente pour les instances de calcul accéléré. Cette mise à jour transforme la gestion des GPU, passant d'une charge de travail manuelle pour les ingénieurs à un simple changement de configuration, aidant ainsi les équipes à se concentrer davantage sur le développement de modèles.
aws