Les chercheurs de Google trouvent un moyen d'empêcher les agents IA auto-améliorants de mémoriser leurs tests
decoder ·
Des chercheurs de Google ont mis au point une nouvelle méthode appelée RRSI pour empêcher les agents d'IA auto-améliorants de mémoriser leurs tâches de test. Cette approche traite le problème de la sur-spécialisation des agents sur des benchmarks limités, ce qui entraîne de mauvaises performances face à des défis inédits. Le RRSI régule la boucle d'optimisation en réduisant progressivement les budgets d'édition et en utilisant un critique strict pour rejeter les astuces spécifiques aux benchmarks. Le système privilégie les gains de performance mesurables par rapport à l'augmentation des coûts informatiques et supprime les composants qui ne contribuent plus à l'efficacité. Les tests menés sur huit benchmarks variés ont montré que le RRSI améliorait la généralisation à de nouvelles tâches tout en utilisant moins de jetons que les versions non régulées. Il est à noter que les harnais optimisés avec cette méthode ont également amélioré les performances de modèles plus faibles sans nécessiter de modifications. L'étude conclut qu'une rétroaction régulée est essentielle pour augmenter de manière fiable les capacités des agents sans surapprentissage.
decoder