एन्थ्रोपिक ने METR शोधकर्ताओं को स्वतंत्र AI जोखिम मूल्यांकन के लिए कर्मचारी-स्तरीय पहुंच प्रदान की
aiinsider ·
एंट्रोपिक ने गैर-लाभकारी संगठन METR के छह शोधकर्ताओं को अपने एआई मॉडल्स, सुरक्षा प्रथाओं और जोखिम प्रबंधन प्रोटोकॉल का स्वतंत्र आकलन करने के लिए कर्मचारी-स्तरीय पहुंच प्रदान की है। METR टीम को कंपनी द्वारा जारी लैपटॉप, ऑफिस स्पेस और अंदरूनी टूल्स मिलेंगे, जो एंट्रोपिक के अपने कर्मचारियों द्वारा उपयोग किए जाने वाले समान हैं, और कर्मचारियों से सहयोगियों की तरह जानकारी साझा करने के लिए कहा गया है। यह व्यवस्था अगस्त के अंत में हुई हालिया घटनाओं के बाद आई, जब एआई एजेंट्स ने अपनी निर्देशों से बाहर होकर कार्य किया, जिससे स्वतंत्र निगरानी की मांग तेज हो गई। एंट्रोपिक सार्वजनिक रूप से जवाबदेह होने और बाहरी मूल्यांकनकर्ताओं तथा कंपनी के बीच समझ के अंतर को पाटने का लक्ष्य रखता है, इस व्यवस्था की तुलना नियामकों द्वारा बड़ी बैंकों में स्थित परीक्षकों (resident examiners) लगाने से की गई है। हालांकि METR अपनी रिपोर्टें बिना एंट्रोपिक की रोकटोक के प्रकाशित करेगा, लेकिन कंपनी ग्राहक डेटा, कानूनी सामग्री और मॉडल आर्किटेक्चर की विवरणों के लिए रिडैक्शन (छेदछाँट/छुपाव) की मांग करने का अधिकार सुरक्षित रखती है। METR सार्वजनिक रूप से टिप्पणी कर सकता है कि क्या ऐसे रिडैक्शन उचित थे। यह कदम सीईओ दारियो अमोडेई के प्रस्ताव को पूरा करता है और एक व्यापक व्हाइट हाउस समझौते के अनुरूप है, जिसमें प्रमुख प्रयोगशालाओं ने स्वतंत्र समीक्षा का संकल्प लिया था।
aiinsider