Pesquisadores do Google encontram maneira de impedir que agentes de IA autoaperfeiçoados memorizem seus testes
decoder ·
Pesquisadores do Google desenvolveram um novo método chamado RRSI para impedir que agentes de IA com capacidade de autoaperfeiçoamento memorizem suas tarefas de teste. Essa abordagem aborda o problema em que os agentes se especializam excessivamente em benchmarks limitados, resultando em desempenho insuficiente em desafios não vistos. O RRSI regula o loop de otimização reduzindo os orçamentos de edição ao longo do tempo e empregando um crítico rigoroso para rejeitar truques específicos de benchmarks. O sistema prioriza ganhos mensuráveis de desempenho em vez de aumentos nos custos de computação e remove componentes que já não contribuem para a eficácia. Testes em oito benchmarks diversos mostraram que o RRSI melhorou a generalização para novas tarefas enquanto usava menos tokens do que as versões sem regularização. Notavelmente, harnesses otimizados com esse método também aprimoraram o desempenho de modelos mais fracos sem exigir modificações. O estudo conclui que o feedback regularizado é essencial para aumentar de forma confiável as capacidades dos agentes sem overfitting.
decoder