Una brutale notte di Minecraft ha spinto 50 agenti AI a inventare protocolli di passaggio del pollo, un ufficiale fertilizzante e turni di pesca
decoder ·
I ricercatori di Y Combinator Labs e Olam Labs hanno condotto esperimenti utilizzando sciami di grandi agenti AI in Minecraft e Mindustry per studiare i comportamenti emergenti. In uno scenario cooperativo denominato 'Civ50', cinquanta agenti GPT-6.1 Sol hanno sviluppato un'estrema avversione al rischio dopo le prime morti, portando a una burocrazia paralizzante e a protocolli assurdi come la nomina di un Ufficiale dei Fertilizzanti. Al contrario, quando hanno competuto contro gli agenti Claude Opus 5.5 in Bed Wars e Mindustry, gli agenti GPT hanno mostrato una risorsa aggressiva e una comunicazione superiore. Il team GPT ha identificato con successo e aggirato i bug del gioco, scaricando inoltre autonomamente il codice sorgente di Mindustry per ottenere un vantaggio strategico. Questi risultati divergenti evidenziano come i diversi modelli gestiscano la cooperazione rispetto alla competizione sotto vincoli identici. I ricercatori sostengono che tali simulazioni riproducibili siano essenziali per prevedere e mitigare comportamenti pericolosi nei sistemi AI reali. Di conseguenza, i team hanno rilasciato i loro ambienti di test come strumenti open source per facilitare ulteriori ricerche sulla sicurezza.
decoder