O sistema SoL-Pi da Nvidia corta o uso de tokens em agentes de codificação pela metade ao otimizar o harness
decoder ·
Pesquisadores da Nvidia apresentaram o SoL-Pi, um sistema que otimiza a camada de controle de agentes de codificação para reduzir significativamente o consumo de tokens. Ao automatizar a análise dos rastros do agente e propor modificações no 'harness', o sistema corta o uso de tokens em quase metade, mantendo níveis de desempenho comparáveis. A abordagem explorou mais de 152 direções em 535 ambientes, identificando quatro mecanismos-chave, como Action Fusion e Online Context Compact, para eliminar trabalho redundante. No benchmark EdgeBench, a variante mais eficiente reduziu os custos em 49% e alcançou 93,7% da pontuação do Pi harness original. Embora eficaz em benchmarks específicos como o EdgeBench, os resultados foram mistos em outros testes, como o Terminal-Bench 4, onde resolveu menos tarefas que os concorrentes. O estudo destaca que otimizar o harness pode gerar economias substanciais em comparação com as implementações nativas do Codex e do Claude Code. No entanto, os autores observam que esses ganhos de eficiência podem vir com contrapartidas, como a reutilização reduzida do cache de prompts. Este desenvolvimento aborda a crescente carga de custos da IA agêntica, cujo uso de tokens aumentou catorze vezes desde o início de 2026.
decoder