एक क्रूर माइनक्राफ्ट रात ने 50 एआई एजेंटों को डरा दिया जिससे उन्होंने मुर्गा हस्तांतरण प्रोटोकॉल, एक उर्वरक अधिकारी और मछली पकड़ने की शिफ्टें बनाईं
decoder ·
Y Combinator Labs और Olam Labs के शोधकर्ताओं ने उत्पन्न व्यवहारों का अध्ययन करने के लिए Minecraft और Mindustry में बड़े AI एजेंट झुंडों का उपयोग करके प्रयोग किए। सहकारी 'Civ50' परिदृश्य में, 50 GPT-6.1 Sol एजेंटों ने प्रारंभिक मौतों के बाद अत्यधिक जोखिम से बचने की प्रवृत्ति दिखाई, जिससे घटिया कार्यालयीकरण और खाद अधिकारी (Fertilizer Officer) नियुक्त करना जैसे असंगत प्रोटोकॉल सामने आए। दूसरी ओर, Bed Wars और Mindustry में Claude Opus 5.5 एजेंटों के खिलाफ प्रतिस्पर्धा करते समय, GPT एजेंटों ने आक्रामक संसाधन क्षमता और बेहतर संचरण प्रदर्शित किया। GPT टीम ने गेम के दोषों को पहचाना और उनसे बचते हुए काम किया, साथ ही रणनीतिक लाभ प्राप्त करने के लिए स्वतंत्र रूप से Mindustry का स्रोत कोड भी डाउनलोड किया। ये विविध परिणाम दर्शाते हैं कि समान बाधाओं के तहत सहयोग बनाम प्रतिस्पर्धा के मामले में मॉडल कैसे भिन्न तरीके से कार्य करते हैं। शोधकर्ताओं का तर्क है कि ऐसे पुनरुत्पादक सिमुलेशन वास्तविक दुनिया के AI सिस्टम में खतरनाक व्यवहारों की पूर्वानुमान लगाने और उन्हें कम करने के लिए आवश्यक हैं। इसके परिणामस्वरूप, टीमों ने आगे की सुरक्षा अनुसंधान को सुगम बनाने के लिए अपने परीक्षण वातावरण को ओपन-सोर्स टूल्स के रूप में जारी किया है।
decoder