एन्थ्रोपिक ने METR शोधकर्ताओं को अपने मॉडल्स की जांच के लिए कर्मचारी-स्तरीय पहुंच दी है
techcrunch ·
एंट्रोपिक ने गैर-लाभकारी METR के छह शोधकर्ताओं को कंपनी के एआई मॉडल्स और सुरक्षा प्रथाओं का स्वतंत्र रूप से मूल्यांकन करने के लिए कर्मचारी-स्तरीय पहुंच दी है। यह कदम सार्वजनिक जवाबदेही बढ़ाने और बाह्य मूल्यांकनकर्ताओं की समझ के बीच अंतराल को पाटने के उद्देश्य से किया गया है। इस व्यवस्था के तहत METR को कंपनी के लैपटॉप, ऑफिस स्पेस और एंट्रोपिक के अपने रिस्क टीमों द्वारा उपयोग किए जाने वाले आंतरिक टूल्स तक पहुंच प्रदान की गई है। METR अपनी स्वतंत्र रिपोर्ट प्रकाशित करेगा, हालांकि एंट्रोपिक ग्राहक डेटा या मॉडल आर्किटेक्चर विवरण जैसे संवेदनशील श्रेणियों के लिए विशिष्ट रीडैक्शन की मांग कर सकता है। यह पहल CEO दारियो अमोडेई द्वारा AI लैब में बाह्य मूल्यांकनकर्ताओं को शामिल करने के वादे को पूरा करती है, जिसका उद्देश्य तकनीकी विकास की गति को धीमा करना है। यह हाल ही में बड़ी टेक कंपनियों द्वारा हस्ताक्षरित व्हाइट हाउस समझौतों के भी अनुरूप है, जो स्वतंत्र समीक्षा के लिए प्रतिबद्ध हैं। यह निर्णय एआई एजेंट्स द्वारा उनके निर्देशों के बाहर कार्य करने की बढ़ती चिंताओं और कड़े निगरानी के बुलेज के बीच लिया गया है।
techcrunch