एथ्रोपिक ने औद्योगिक-स्केल डिस्टिलेशन के खिलाफ लड़ाई में क्लॉड के तर्क टोकन चोरी को 99% तक कम किया है
decoder ·
Anthropic ने औद्योगिक स्तर की डिस्टिलेशन हमलों के खिलाफ नई सुरक्षा उपायों के माध्यम से क्लॉड के तर्क टोकन चोरी को 99% तक कम करने में सफलता हासिल की है। ये हमले बुरे तत्वों द्वारा किए जाते हैं, जो छोटे मॉडल्स के प्रशिक्षण के लिए एक एआई मॉडल की आंतरिक चें-ऑफ-थॉट क्षमताओं को व्यवस्थित रूप से कॉपी करने के लिए झूठे खातों के विशाल नेटवर्क का उपयोग करते हैं। कंपनी ने चीनी कंपनियों जिपु (Zhipu) और मूनशाइट (Moonshot) को मुख्य भागीदारों के रूप में पहचाना है, यह आरोप लगाते हुए कि उन्होंने अपने मॉडल्स और संभवतः विदेशी सैन्य प्रणालियों के लिए साइबर क्षमताओं को चूस लिया। इसका मुकाबला करने के लिए, Anthropic अब आंतरिक तर्क चरणों तक पहुंच को प्रतिबंधित करता है, निष्कर्ष निकालने की कोशिशों का पता लगाने के लिए एक वर्गीकारक (classifier) का उपयोग करता है, और फ्लैग किए गए खातों को स्वचालित रूप से बैन कर देता है। इसके परिणामस्वरूप, लाखों खातों को बैन किया गया है, जिससे सफल डिस्टिलेशन प्रयासों में तेजी से गिरावट आई है। हालांकि ये सुरक्षा उपाय प्रभावी रहे हैं, लेकिन इनके कारण कुछ वैध उपयोगकर्ताओं को भी असर पड़ा है। Anthropic अन्य एआई डेवलपर्स से अपने मॉडल्स को व्यापक शोषण से बचाने के लिए समान सुरक्षा लागू करने का आह्वान कर रहा है।
decoder