Eine brutale Nacht in Minecraft ließ 50 KI-Agenten Protokolle zum Hühnerübergabe, einen Düngerbeamten und Fischereischichten erfinden
decoder ·
Forscher der Y Combinator Labs und Olam Labs führten Experimente mit großen Schwärmen von KI-Agenten in Minecraft und Mindustry durch, um emergente Verhaltensweisen zu untersuchen. In einem kooperativen Szenario namens „Civ50“ entwickelten fünfzig GPT-6.1-Sol-Agenten nach anfänglichen Todesfällen eine extreme Risikoscheu, was zu lähmender Bürokratie und absurden Protokollen wie der Ernennung eines Dünger-Offiziers führte. Im Gegensatz dazu zeigten die GPT-Agenten im Wettbewerb gegen Claude-Opus-5.5-Agenten in den Modi Bed Wars und Mindustry aggressive Ressourceneffizienz und überlegene Kommunikationsfähigkeiten. Das GPT-Team identifizierte erfolgreich Spielbugs und umging diese, während es zudem eigenständig den Quellcode von Mindustry herunterlud, um einen strategischen Vorteil zu erlangen. Diese unterschiedlichen Ergebnisse verdeutlichen, wie verschiedene Modelle Kooperation und Wettbewerb unter identischen Bedingungen handhaben. Die Forscher argumentieren, dass solche reproduzierbaren Simulationen unerlässlich sind, um gefährliche Verhaltensweisen in realen KI-Systemen vorherzusagen und zu mindern. Daher haben die Teams ihre Testumgebungen als Open-Source-Tools veröffentlicht, um weitere Sicherheitsforschung zu ermöglichen.
decoder