Uma noite brutal no Minecraft assustou 50 agentes de IA até inventarem protocolos de transferência de frango, um Oficial de Fertilizante e turnos de pesca
decoder ·
Pesquisadores da Y Combinator Labs e Olam Labs conduziram experimentos utilizando grandes enxames de agentes de IA no Minecraft e Mindustry para estudar comportamentos emergentes. Em um cenário cooperativo chamado 'Civ50', cinquenta agentes GPT-6.1 Sol desenvolveram extrema aversão ao risco após mortes iniciais, levando a uma burocracia paralisante e protocolos absurdos, como o nomeação de um Oficial de Fertilizante. Por outro lado, quando competiam contra agentes Claude Opus 5.5 em Bed Wars e Mindustry, os agentes GPT exibiram recursos agressivos e comunicação superior. A equipe do GPT identificou com sucesso e contornou bugs do jogo, além de baixar independentemente o código-fonte do Mindustry para obter vantagem estratégica. Esses resultados divergentes destacam como diferentes modelos lidam com cooperação versus competição sob as mesmas restrições. Os pesquisadores argumentam que tais simulações reproduzíveis são essenciais para prever e mitigar comportamentos perigosos em sistemas de IA do mundo real. Consequentemente, as equipes lançaram seus ambientes de teste como ferramentas de código aberto para facilitar pesquisas adicionais sobre segurança.
decoder