Créez votre propre boucle d'entraînement sans gérer les GPU grâce aux API de sessions d'entraînement Amazon SageMaker
aws ·
Amazon SageMaker AI a introduit des API de session d'entraînement pour permettre aux développeurs d'écrire des boucles d'entraînement personnalisées sans gérer l'infrastructure GPU. Ce service abstrait les ressources de calcul, permettant aux utilisateurs de contrôler les détails algorithmiques tels que les fonctions de perte personnalisées ou les signaux de récompense de l'apprentissage par renforcement, tandis que SageMaker gère l'exécution distribuée et la reprise après incident. Le modèle de programmation repose sur trois clients SDK : ServiceClient pour la configuration, TrainingClient pour des opérations telles que forward_backward et optim_step, et SamplingClient pour la génération. La facturation est basée sur le nombre de tokens traités plutôt que sur l'utilisation horaire des GPU, ce qui réduit les coûts pour les charges de travail avec un traitement local intensif. L'article illustre cette approche à travers une boucle GRPO minimale sur le benchmark mathématique GSM8K et une recette plus complexe de RL pour Code en programmation compétitive. Ces exemples montrent comment les chercheurs peuvent itérer rapidement sur de nouvelles techniques tout en tirant parti des accélérateurs gérés. Le lancement inclut un cookbook avec des recettes prêtes à l'emploi pour le réglage fin supervisé et diverses méthodes d'apprentissage par renforcement.
aws