Суровая ночь в Minecraft заставила 50 ИИ-агентов изобрести протоколы передачи курицы, должность офицера по удобрениям и смены рыбалки
decoder ·
Исследователи из Y Combinator Labs и Olam Labs провели эксперименты с использованием больших роев ИИ-агентов в Minecraft и Mindustry для изучения возникающего поведения. В кооперативном сценарии «Civ50» пятьдесят агентов GPT-6.1 Sol проявили крайнюю осторожность после первых смертей, что привело к парализующей бюрократии и абсурдным протоколам, таким как назначение Офицера по удобрениям. Напротив, при соперничестве с агентами Claude Opus 5.5 в режимах Bed Wars и Mindustry агенты GPT продемонстрировали агрессивную находчивость и превосходную коммуникацию. Команда GPT успешно выявила и обошла баги игры, а также самостоятельно скачала исходный код Mindustry, чтобы получить стратегическое преимущество. Эти расходящиеся результаты подчеркивают, как различные модели справляются с сотрудничеством и конкуренцией в одинаковых условиях. Исследователи утверждают, что такие воспроизводимые симуляции необходимы для прогнозирования и смягчения опасных проявлений в реальных системах ИИ. В связи с этим команды выпустили свои тестовые среды в качестве инструментов с открытым исходным кодом для содействия дальнейшим исследованиям безопасности.
decoder