残酷的Minecraft之夜让50个AI Agent发明了鸡肉交接协议、肥料官和钓鱼轮班制度
decoder ·
Y Combinator Labs 和 Olam Labs 的研究人员利用大型 AI 智能体群在《我的世界》(Minecraft)和 Mindustry 中进行实验,以研究涌现行为。在名为“Civ50”的合作场景中,50 个 GPT-6.1 Sol 智能体在经历初期死亡后表现出极端的避险倾向,导致陷入瘫痪般的官僚主义,并制定了诸如任命“肥料官”等荒谬协议。相反,在与 Claude Opus 5.5 智能体进行 Bed Wars 和 Mindustry 对抗时,GPT 智能体展现了积极的资源利用能力和更优越的沟通技巧。GPT 团队成功识别并利用游戏漏洞,还独立下载了 Mindustry 的源代码以获得战略优势。这些截然不同的结果凸显了不同模型在相同约束下处理合作与竞争方式的差异。研究人员认为,此类可复现的模拟对于预测和缓解现实世界中 AI 系统的危险行为至关重要。因此,研究团队已将其测试环境作为开源工具发布,以促进进一步的安全研究。
decoder