Исследователи Google нашли способ предотвратить запоминание тестов самообучающимися агентами ИИ
decoder ·
Исследователи Google разработали новый метод под названием RRSI, предотвращающий запоминание самообучающимися ИИ-агентами тестовых задач. Этот подход решает проблему чрезмерной специализации агентов на ограниченных бенчмарках, что приводит к снижению эффективности при решении новых задач. RRSI регулирует цикл оптимизации за счет постепенного сокращения бюджета редактирования с течением времени и использования строгого критика, отклоняющего трюки, адаптированные под конкретные бенчмарки. Система отдает приоритет измеримому росту производительности перед увеличением вычислительных затрат и исключает компоненты, больше не влияющие на эффективность. Тестирование на восьми разнообразных бенчмарках показало, что RRSI улучшает обобщение на новые задачи при меньшем количестве токенов по сравнению с нерегуляризованными версиями. Примечательно, что инструменты (harnesses), оптимизированные этим методом, также повысили производительность более слабых моделей без необходимости их модификации. В исследовании делается вывод, что регулярный фидбек необходим для надежного расширения возможностей агентов без переобучения.
decoder