Создание эффективных агентов с помощью дистилляции знаний в Amazon SageMaker AI
aws ·
В этой статье демонстрируется, как создавать эффективные ИИ-агенты с использованием дистилляции знаний на уровне последовательностей (SeqKD) в Amazon SageMaker AI. Авторы решают проблему высоких затрат агентных рабочих процессов, которые часто требуют множества вызовов API к большим передовым моделям, обучая меньшую модель-«ученика» имитировать поведение большей модели-«учителя». Используя GLM-5.3 в качестве учителя и Qwen3.5-4B в качестве ученика, они генерируют многошаговые траектории для задачи помощника по покупкам и фильтруют их на успешность с помощью скорера ShoppingBench. Ученик дообучается с помощью серверного контролируемого тонкого обучения (SFT) в SageMaker AI, сохраняя шаги рассуждения учителя вместе с вызовами инструментов. Результаты оценки показывают, что дистиллированная модель на 4 миллиарда параметров достигает показателя абсолютной успешности, сопоставимого с передовым учителем, и значительно превосходит базовую необученную модель. Этот подход позволяет организациям снижать затраты на инференс за счет размещения меньшей модели при сохранении высокого качества работы агента. В заключение отмечается, что SeqKD служит эффективным первым шагом, хотя для более сложных задач со временем могут потребоваться методы усиленного обучения с политикой (on-policy reinforcement learning).
aws