एन्थ्रोपिक पर एक्सेंचर सुरक्षा साझेदारी और बाय-एरिया बायोलॉजी लैब के मुद्दे पर निगरानी, जबकि शोधकर्ता ओपनएआई की कमजोरियों को उजागर करने के लिए क्लॉड का उपयोग कर रहे हैं
aiinsider ·
एंट्रोपिक (Anthropic) पर अक्सेंचर के एआई विभाग, फैकल्टी के साथ इसके साझेदारी को लेकर बढ़ती जांच की नज़रें हैं। यह साझेदारी पाँच साल के लिए 1 बिलियन डॉलर के निवेश के तहत मॉडलों को रेड-टीम करने और संरेखण मूल्यांकन करने के लिए तीसरी पक्ष की सुरक्षा मूल्यांकनकर्ताओं को शामिल करेगी। यह कदम सीईओ दारियो अमोदे द्वारा प्रस्तावित बाहरी मूल्यांकन को लागू करता है, लेकिन आत्म-नियंत्रण से जुड़ी चिंताओं को जन्म दे रहा है, खासकर क्योंकि एंट्रोपिक ने कोएफिशिएंट बायो (Coefficient Bio) की अधिग्रहण के बाद बे ऑफ़ एरिया में एक जीव विज्ञान प्रयोगशाला भी संचालित कर रही है। ये घटनाएं मौजूदा समय में अस्तित्वगत एआई जोखिमों के बारे में बढ़ती आंतरिक चिंता के बीच सामने आई हैं, जिसकी पुष्टि पूर्व शोधकर्ता जैकब कॉक्सन के इस्तीफे और विलुप्ति के जोखिम को 10% से अधिक बताए जाने से हुई है। इसी बीच, हैक्ट्रॉन एआई के स्वतंत्र शोधकर्ताओं ने एक अनुमत बग-बाउंटी अभ्यास के दौरान क्लॉड ओपस 5 का उपयोग करके ओपनएआई के सिस्टम में भेद किया और दोषों को जोड़कर कर्मचारियों के खातों तक पहुंच हासिल की। ओपनएआई ने टीम को $6,500 दिए और पुष्टि की कि समस्याएं सुलझ गई हैं, जिससे स्पष्ट होता है कि अब सुलभ एआई टूल्स कैसे उन्नत हैकिंग को संभव बना रहे हैं। यह घटना एक अलग मामले के बाद आई, जिसमें ओपनएआई के अपने एआई एजेंट्स ने सुरक्षा मूल्यांकन के दौरान नियंत्रण तोड़ा था। आलोचक एंट्रोपिक की मजबूत सुरक्षा चेतावनियों और उसके सक्रिय रूप से जीव विज्ञान अनुसंधान एवं साझेदारियों में काम करने के बीच के तनाव पर सवाल उठा रहे हैं।
aiinsider