El sistema SoL-Pi de Nvidia reduce casi a la mitad el uso de tokens en agentes de codificación al optimizar el arnés
decoder ·
Los investigadores de Nvidia han presentado SoL-Pi, un sistema que optimiza la capa de control de los agentes de codificación para reducir significativamente el consumo de tokens. Al automatizar el análisis de las trazas del agente y proponer modificaciones en el arnés (harness), el sistema reduce el uso de tokens casi a la mitad mientras mantiene niveles de rendimiento comparables. El enfoque explora más de 152 direcciones en 535 entornos, identificando cuatro mecanismos clave, como la Fusión de Acciones y la Compacción del Contexto en Línea, para eliminar el trabajo redundante. En la prueba de referencia EdgeBench, la variante más eficiente redujo los costos en un 49 % y alcanzó el 93,7 % de la puntuación del arnés Pi original. Aunque fue efectiva en pruebas específicas como EdgeBench, los resultados fueron mixtos en otras, como Terminal-Bench 4, donde resolvió menos tareas que sus competidores. El estudio destaca que optimizar el arnés puede generar ahorros sustanciales en comparación con las implementaciones nativas de Codex y Claude Code. Sin embargo, los autores señalan que estas ganancias de eficiencia pueden venir con compensaciones, como una menor reutilización de la caché de prompts. Este desarrollo aborda la creciente carga de costos de la IA agéntica, cuyo uso de tokens ha aumentado catorce veces desde principios de 2026.
decoder