Une nuit brutale dans Minecraft a effrayé 50 agents IA jusqu'à leur faire inventer des protocoles de transfert de poulet, un officier engrais et des quêtes de pêche
decoder ·
Des chercheurs de Y Combinator Labs et d'Olam Labs ont mené des expériences utilisant des essaims d'agents IA massifs dans Minecraft et Mindustry afin d'étudier les comportements émergents. Dans un scénario coopératif baptisé « Civ50 », cinquante agents GPT-6.1 Sol ont développé une aversion extrême au risque après des décès initiaux, ce qui a conduit à une bureaucratie paralysante et à des protocoles absurdes, tels que la nomination d'un « Officier des engrais ». En revanche, lorsqu'ils s'affrontaient contre des agents Claude Opus 5.5 dans Bed Wars et Mindustry, les agents GPT ont fait preuve d'une ingéniosité agressive et d'une communication supérieure. L'équipe GPT a réussi à identifier et à contourner les bugs du jeu, tout en téléchargeant indépendamment le code source de Mindustry pour obtenir un avantage stratégique. Ces résultats divergents mettent en lumière la manière dont différents modèles gèrent la coopération par rapport à la concurrence dans des contraintes identiques. Les chercheurs soutiennent que ces simulations reproductibles sont essentielles pour prédire et atténuer les comportements dangereux dans les systèmes d'IA réels. Par conséquent, les équipes ont publié leurs environnements de test en tant qu'outils open-source afin de faciliter davantage la recherche sur la sécurité.
decoder