Gli sciami di agenti AI sono un enorme spreco di token e non migliorano la qualità, dice uno sviluppatore di Codex di OpenAI
decoder ·
Eric Provencher, sviluppatore di Codex presso OpenAI, avverte che i flussi di lavoro agentici possono sprecare grandi quantità di token. In post su X, sostiene che usare più di due sub-agenti in parallelo non migliora quasi mai la qualità e principalmente brucia token. Descrive una tassa di coordinamento, affermando che gli agenti diffidano l'uno dell'altro e spendono sforzi per ricontrollare il lavoro reciproco. In un esempio, un progetto ha utilizzato 1.393 agenti Fable e 20.000 dollari in token per rifattorizzare un singolo file Python; Provencher afferma che un singolo agente Astra avrebbe potuto farlo per una frazione del costo. Osserva che gli sciami di agenti possono far risparmiare tempo, ma il loro sovraccarico di token è una trappola. Suggerisce di far eseguire i sub-agenti in thread separati e di notificare l'agente principale al termine, invece di interrogare costantemente lo stato. Indica anche il sovraccarico del prompt di sistema e le chiamate ridondanti agli strumenti da parte dei sub-agenti che mancano di contesto, e riconosce che OpenAI deve ancora fornire soluzioni migliori.
decoder