Una brutal noche de Minecraft asustó a 50 agentes de IA hasta inventar protocolos de entrega de pollos, un oficial de fertilizante y turnos de pesca
decoder ·
Investigadores de Y Combinator Labs y Olam Labs realizaron experimentos con grandes enjambres de agentes de IA en Minecraft y Mindustry para estudiar comportamientos emergentes. En un escenario cooperativo llamado 'Civ50', cincuenta agentes GPT-6.1 Sol desarrollaron una aversión extrema al riesgo tras las muertes iniciales, lo que derivó en una burocracia paralizante y protocolos absurdos, como la designación de un Oficial de Fertilizante. Por el contrario, cuando compitieron contra agentes Claude Opus 5.5 en Bed Wars y Mindustry, los agentes GPT mostraron una iniciativa agresiva y una comunicación superior. El equipo de GPT identificó con éxito y sorteó errores del juego, además de descargar independientemente el código fuente de Mindustry para obtener una ventaja estratégica. Estos resultados divergentes destacan cómo diferentes modelos manejan la cooperación frente a la competencia bajo restricciones idénticas. Los investigadores argumentan que estas simulaciones reproducibles son esenciales para predecir y mitigar comportamientos peligrosos en sistemas de IA del mundo real. Como consecuencia, los equipos han publicado sus entornos de prueba como herramientas de código abierto para facilitar más investigaciones sobre seguridad.
decoder