एंथ्रोपिक ने एम्बेडेड मूल्यांकन के लिए एक्सेंचर के साथ साझेदारी की
anthropic ·
Anthropic, Accenture के विशेषज्ञ एआई व्यवसाय Faculty के साथ साझेदारी कर फ्रंटियर एआई मॉडलों का स्वतंत्र मूल्यांकन करेगा। इस काम में मॉडल का मूल्यांकन और रेड-टीमिंग, एलाइनमेंट आकलन तथा सुरक्षा उपायों का परीक्षण शामिल होगा, जिसमें उद्यमों और सरकारों में एआई तैनाती के Accenture के अनुभव का उपयोग किया जाएगा। Anthropic और Accenture, दोनों को अगले पांच वर्षों में मूल्यांकन क्षमता विकसित करने के लिए कम-से-कम 1 अरब डॉलर का निवेश करने की उम्मीद है। एम्बेडेड मूल्यांकनकर्ता एआई कंपनियों के भीतर कर्मचारियों जैसी पहुंच के साथ काम करेंगे, जिससे वे प्रशिक्षण का अवलोकन कर सकेंगे, विकास और तैनाती संबंधी निर्णयों की जांच कर सकेंगे, कर्मचारियों से बात कर सकेंगे, सुरक्षा प्रतिबद्धताओं का सत्यापन कर सकेंगे, अनदेखे जोखिमों की पहचान कर सकेंगे और घटनाओं की रिपोर्ट कर सकेंगे। Anthropic का कहना है कि स्वतंत्र मूल्यांकनकर्ता उसकी जवाबदेही को सत्यापित करना अधिक संभव बनाएंगे, जबकि मॉडल की सुरक्षा की जिम्मेदारी Anthropic की ही रहेगी। चूंकि मानक और दीर्घकालिक वित्तपोषण व्यवस्थाएं अभी स्थापित नहीं हुई हैं, इसलिए Anthropic शुरुआत में Accenture के काम को सीधे वित्तपोषित करेगा और साथ ही METR तथा अन्य गैर-लाभकारी मूल्यांकनकर्ताओं से बातचीत करेगा। Anthropic को उम्मीद है कि यह गैर-अनन्य दृष्टिकोण आगे चलकर साझा मानकों वाले एक व्यापक पारिस्थितिकी तंत्र की दिशा में विकसित होगा।
anthropic