Пишите собственные циклы обучения без управления GPU с помощью API сеансов обучения Amazon SageMaker
aws ·
Amazon SageMaker AI представила API сессий обучения, позволяющие разработчикам писать пользовательские циклы обучения без управления GPU-инфраструктурой. Этот сервис абстрагирует вычислительные ресурсы, давая пользователям контроль над алгоритмическими деталями, такими как пользовательские функции потерь или сигналы вознаграждения для обучения с подкреплением, в то время как SageMaker берет на себя распределенное выполнение и восстановление после сбоев. Модель программирования опирается на три клиента SDK: ServiceClient для настройки, TrainingClient для операций вроде forward_backward и optim_step, а также SamplingClient для генерации. Оплата производится за обработанные токены, а не за почасовое использование GPU, что снижает затраты для рабочих нагрузок с интенсивными локальными вычислениями. В статье этот подход демонстрируется на минимальном цикле GRPO для математического бенчмарка GSM8K и более сложном рецепте Code RL для соревновательного программирования. Эти примеры показывают, как исследователи могут быстро экспериментировать с новыми методами, используя управляемые ускорители. Выпуск включает кулинарную книгу с готовыми к запуску рецептами для контролируемого тонкого настройки (supervised fine-tuning) и различных методов обучения с подкреплением.
aws