स्वतंत्र मूल्यांकनकर्ताओं पर एक अपडेट
anthropic ·
एन्थ्रोपिक ने फ्रंटियर एआई मॉडल मूल्यांकन में विशेषज्ञता रखने वाली गैर-लाभकारी संस्था METR को कर्मचारी-समान पहुंच प्रदान करके अपने स्वतंत्र मूल्यांकन ढांचे का उल्लेखनीय विस्तार किया है। यह कदम एन्थ्रोपिक के तीव्र तृतीय पक्ष निगरानी के लिए अपने हालिया प्रतिबद्धता और सुपर इंटेलिजेंस पर व्हाइट हाउस समझौते पर हस्ताक्षर करने के अनुरूप है। कंपनी आंतरिक सुरक्षा टीमों और बाहरी ऑडिटरों के बीच ज्ञान की खाई को पाटने के लिए ट्रेनिंग डेटा, सुरक्षा उपायों और जोखिम मूल्यांकन में गहन दृश्यता प्रदान करना चाहती है। हालांकि METR अपनी रिपोर्टें बिना वीटो शक्ति के प्रकाशित करने की स्वतंत्रता बनाए रखता है, एन्थ्रोपिक ग्राहक डेटा या वकील-ग्राहक गोपनीय जानकारी जैसे विशिष्ट संवेदनशील श्रेणियों को छुपाने का अधिकार सुरक्षित रखता है। इस प्रक्रिया को प्रबंधित करने के लिए, एन्थ्रोपिक विभिन्न मूल्यांकनकर्ताओं के लिए एक तीन-स्तरीय पहुंच प्रणाली विकसित कर रहा है, जिसमें संकीर्ण रूप से परिभाषित जांचों से लेकर पूर्ण एम्बेडेड भागीदारी तक शामिल हैं। वर्तमान में, SecureBio पहले स्तर पर कार्यरत है और विशिष्ट जोखिम रिपोर्ट अध्यायों की समीक्षा कर रहा है, जबकि Accenture और Faculty व्यापक अलाइनमेंट और रेड-टीमिंग सहयोग में जुटे हुए हैं। Hugging Face जैसे अन्य संगठन भविष्य में इस मजबूत सुरक्षा निगरानी संरचना में शामिल होने के लिए प्रारंभिक चर्चा में हैं।
anthropic