Scrivi il tuo ciclo di addestramento senza gestire le GPU con le API delle sessioni di addestramento di Amazon SageMaker
aws ·
Amazon SageMaker AI ha introdotto le API delle sessioni di addestramento per consentire agli sviluppatori di scrivere loop di addestramento personalizzati senza gestire l'infrastruttura GPU. Questo servizio astrae le risorse di calcolo, consentendo agli utenti di controllare i dettagli algoritmici, come funzioni di perdita personalizzate o segnali di ricompensa per il reinforcement learning, mentre SageMaker gestisce l'esecuzione distribuita e il recupero dagli errori. Il modello di programmazione si basa su tre client SDK: ServiceClient per la configurazione, TrainingClient per operazioni come forward_backward e optim_step, e SamplingClient per la generazione. La fatturazione è basata sui token elaborati anziché sull'utilizzo orario della GPU, riducendo i costi per carichi di lavoro con un'intensa computazione locale. L'articolo illustra questo approccio attraverso un loop GRPO minimo sul benchmark matematico GSM8K e una ricetta più complessa per Code RL nella programmazione competitiva. Questi esempi mostrano come i ricercatori possano iterare rapidamente su nuove tecniche sfruttando acceleratori gestiti. Il rilascio include un cookbook con ricette pronte all'uso per il fine-tuning supervisionato e vari metodi di reinforcement learning.
aws