Anthropic का पहला एम्बेडेड मूल्यांकनकर्ता है… Accenture?
techcrunch ·
एंथ्रोपिक ने घोषणा की कि एक्सेंचर के एआई प्रभाग, Faculty, के कर्मचारी कंपनी के भीतर काम करना शुरू करेंगे। वे मॉडलों का मूल्यांकन और रेड-टीम परीक्षण करेंगे, एलाइनमेंट आकलन करेंगे और सुरक्षा उपायों की जांच करेंगे। एंथ्रोपिक और एक्सेंचर को अगले पांच वर्षों में इस पहल में कम से कम 1 अरब डॉलर का निवेश करने की उम्मीद है। एक्सेंचर का चयन कुछ एआई पर्यवेक्षकों के लिए हैरान करने वाला था, खासकर इसलिए कि कंपनी के भीतर काम करने वाले मूल्यांकनकर्ताओं को लेकर चर्चाएं मुख्यतः METR, Redwood Research और Apollo Research जैसे संगठनों पर केंद्रित रही थीं। एंथ्रोपिक ने कहा कि वह और अधिक मूल्यांकनकर्ताओं की घोषणा करने की योजना बना रही है और METR तथा अन्य गैर-लाभकारी संगठनों के साथ उनकी अपनी फंडिंग का उपयोग करके पायलट परियोजनाओं पर चर्चा कर रही है। कंपनी ने कॉरपोरेशनों और सरकारों के लिए एआई लागू करने में एक्सेंचर के अनुभव के साथ-साथ एक बड़ी सार्वजनिक रूप से कारोबार करने वाली कंपनी के रूप में उसकी स्वतंत्रता का हवाला दिया, हालांकि उसने यह भी स्वीकार किया कि मूल्यांकनकर्ताओं की पहुंच और संचार के मानक अभी स्थापित नहीं हुए हैं। आलोचकों का तर्क है कि कंपनी के भीतर किया जाने वाला मूल्यांकन एआई उद्योग को खुद ही अपना नियमन करने का अवसर दे सकता है, लेकिन एंथ्रोपिक का कहना है कि यह व्यवस्था उसकी जवाबदेही को कम करने के बजाय उसे अधिक सत्यापन योग्य बनाएगी।
techcrunch