英伟达SoL-Pi系统通过优化控制层将编码代理的令牌使用量减半
decoder ·
英伟达研究人员推出了SoL-Pi系统,通过优化编码代理的控制层来显著降低令牌消耗。该系统通过自动化分析代理轨迹并提出工具包修改建议,在保持相当性能水平的同时,将令牌使用量减少近一半。该方法在535个环境中探索了超过152个方向,识别出包括“动作融合(Action Fusion)”和“在线上下文紧凑化(Online Context Compact)”在内的四种关键机制,以消除冗余工作。在EdgeBench基准测试中,最高效的变体使成本降低了49%,并达到了原始Pi工具包得分的93.7%。虽然在EdgeBench等特定基准上效果显著,但在Terminal-Bench 4等其他测试中结果喜忧参半,其解决的任务数量少于竞争对手。该研究强调,与Codex和Claude Code的原生实现相比,优化工具包可以带来巨大的节省。然而,作者指出,这些效率提升可能伴随权衡,例如提示缓存复用率降低。这一进展旨在应对代理式AI日益增长的成本负担,自2026年初以来,其令牌使用量已激增十四倍。
decoder