Nvidias SoL-Pi-System halbiert den Tokenverbrauch von Coding-Agents durch Optimierung des Harness
decoder ·
Forscher von Nvidia haben SoL-Pi eingeführt, ein System, das die Steuerschicht von Coding-Agents optimiert, um den Tokenverbrauch erheblich zu senken. Durch die Automatisierung der Analyse von Agenten-Protokollen und das Vorschlagen von Anpassungen an der Harness reduziert das System den Tokenverbrauch um fast die Hälfte, während es vergleichbare Leistungsniveaus beibehält. Der Ansatz untersucht über 152 Richtungen in 535 Umgebungen und identifiziert vier Schlüsselmechanismen wie Action Fusion und Online Context Compact, um redundante Arbeit zu eliminieren. Auf dem EdgeBench-Benchmark reduzierte die effizienteste Variante die Kosten um 49 Prozent und erreichte 93,7 Prozent des Scores der ursprünglichen Pi-Harness. Während die Methode auf spezifischen Benchmarks wie EdgeBench effektiv ist, waren die Ergebnisse bei anderen Tests wie Terminal-Bench 4 gemischt, da sie weniger Aufgaben löste als Wettbewerber. Die Studie hebt hervor, dass die Optimierung der Harness erhebliche Einsparungen im Vergleich zu nativen Implementierungen von Codex und Claude Code erzielen kann. Allerdings weisen die Autoren darauf hin, dass diese Effizienzgewinne mit Trade-offs einhergehen können, wie etwa einer verringerten Wiederverwendung des Prompt-Caches. Diese Entwicklung adressiert die wachsende Kostenbelastung durch agentic AI, bei der der Tokenverbrauch seit Anfang 2026 um das Vierzehnfache gestiegen ist.
decoder