Escribe tu propio bucle de entrenamiento sin gestionar GPUs con las API de sesiones de entrenamiento de Amazon SageMaker
aws ·
Amazon SageMaker AI ha introducido las API de sesiones de entrenamiento para permitir a los desarrolladores escribir bucles de entrenamiento personalizados sin gestionar la infraestructura de GPU. Este servicio abstrae los recursos informáticos, lo que permite a los usuarios controlar detalles algorítmicos como funciones de pérdida personalizadas o señales de recompensa de aprendizaje por refuerzo, mientras que SageMaker se encarga de la ejecución distribuida y la recuperación ante errores. El modelo de programación se basa en tres clientes SDK: ServiceClient para la configuración, TrainingClient para operaciones como forward_backward y optim_step, y SamplingClient para la generación. La facturación se basa en los tokens procesados en lugar del uso horario de GPU, lo que reduce los costos para cargas de trabajo con una computación local intensiva. El artículo demuestra este enfoque mediante un bucle GRPO mínimo en el benchmark matemático GSM8K y una receta más compleja de Code RL para programación competitiva. Estos ejemplos muestran cómo los investigadores pueden iterar rápidamente sobre nuevas técnicas mientras aprovechan aceleradores gestionados. El lanzamiento incluye un libro de recetas con ejemplos listos para ejecutar para el ajuste fino supervisado y varios métodos de aprendizaje por refuerzo.
aws