Annunciato l'elenco delle preferenze di istanza per i lavori di addestramento Amazon SageMaker AI
aws ·
Amazon SageMaker AI ha introdotto le Instance Preference Lists per semplificare l'allocazione delle risorse GPU per i lavori di addestramento e elaborazione. Questa nuova funzionalità consente agli utenti di inviare un singolo lavoro con una lista ordinata di fino a cinque tipi di istanze accettabili, consentendo alla piattaforma di selezionare automaticamente la prima capacità disponibile. Valutando le istanze in ordine di priorità, SageMaker riduce i tempi di attesa durante i picchi di domanda ed elimina la necessità di script di ripetizione manuale o strumenti di monitoraggio complessi. La soluzione si integra perfettamente con i Flexible Training Plans, consentendo alla capacità riservata di avere la precedenza, con un fallback alle opzioni on-demand se le prenotazioni sono esaurite. Gli utenti possono configurare conteggi di istanze per preferenza per garantire l'equivalenza della throughput tra diverse architetture GPU. Inoltre, il parametro MaxPendingTimeInSeconds fornisce il controllo sulla durata della coda per le istanze di calcolo accelerato. Questo aggiornamento trasforma la gestione delle GPU da un onere ingegneristico manuale a una semplice modifica di configurazione, aiutando i team a concentrarsi maggiormente sullo sviluppo dei modelli.
aws