I ricercatori Google trovano il modo di impedire agli agenti AI auto-miglioranti di memorizzare i test
decoder ·
I ricercatori di Google hanno sviluppato un nuovo metodo chiamato RRSI per impedire agli agenti AI auto-miglioranti di memorizzare i compiti di test. Questo approccio affronta il problema in cui gli agenti si specializzano eccessivamente su benchmark limitati, portando a prestazioni scarse su sfide non precedentemente incontrate. RRSI regola il ciclo di ottimizzazione riducendo gradualmente i budget di modifica nel tempo e impiegando un critico rigoroso che respinge le strategie specifiche ai benchmark. Il sistema dà priorità ai guadagni misurabili nelle prestazioni rispetto all'aumento dei costi computazionali e rimuove i componenti che non contribuiscono più all'efficacia. I test condotti su otto benchmark diversificati hanno dimostrato che RRSI ha migliorato la generalizzazione verso nuovi compiti, utilizzando meno token rispetto alle versioni non regolarizzate. In particolare, le strutture ottimizzate con questo metodo hanno anche migliorato le prestazioni di modelli più deboli senza richiedere modifiche. Lo studio conclude che il feedback regolarizzato è essenziale per aumentare in modo affidabile le capacità degli agenti senza incorrere in overfitting.
decoder