Anthropic और OpenAI ने AI कंपनियों के भीतर स्वतंत्र सुरक्षा मूल्यांकनकर्ताओं को शामिल करने का प्रस्ताव रखा
aiinsider ·
Anthropic के CEO डारियो अमोडेई ने प्रस्ताव दिया कि अग्रणी AI कंपनियां स्वतंत्र तृतीय-पक्ष मूल्यांकनकर्ताओं को अपने भीतर शामिल करें, ताकि वे मॉडल एलाइनमेंट का आकलन कर सकें, सुरक्षा घटनाओं की रिपोर्ट कर सकें और संपादकीय नियंत्रण के बिना अपने निष्कर्ष प्रकाशित कर सकें। उन्होंने कहा कि Anthropic METR और Redwood Research जैसे समूहों की पहुंच बढ़ाएगा, और OpenAI के CEO सैम ऑल्टमैन ने कहा कि उनकी कंपनी भी ऐसा ही करेगी। मूल्यांकनकर्ताओं ने इस प्रस्ताव का स्वागत किया, लेकिन पहुंच के दायरे को लेकर अनसुलझे सवाल उठाए, जिनमें मध्यवर्ती प्रशिक्षण चेकपॉइंट, प्रशिक्षण-पश्चात वातावरण, कर्मचारियों के साक्षात्कार और ऐसे प्रमाणों तक पहुंच शामिल है कि मॉडल एलाइनमेंट प्रशिक्षण को कमजोर करने का प्रयास कर रहे हैं। शोधकर्ताओं ने पिछले आकलनों में मूल्यांकन के लिए मिले सीमित समय की ओर भी संकेत किया, जबकि Safer AI के हेनरी पापाडाटोस ने तर्क दिया कि बाध्यकारी नियमन के बिना स्वैच्छिक प्रतिबद्धताओं को वापस लिया जा सकता है। Meta, Google DeepMind और SpaceXAI ने ऐसी प्रतिबद्धता नहीं जताई है, हालांकि DeepMind के डेमिस हासाबिस ने एक अलग उद्योग मानक निकाय बनाने का सुझाव दिया है। कैलिफोर्निया के SB 53 और SB 813 तथा EU AI Act औपचारिक मूल्यांकन संबंधी आवश्यकताएं स्थापित करना शुरू कर रहे हैं।
aiinsider