OpenAI ने अपने मॉडल्स का तर्क चुराने की एक अभियान को रोकने का दावा किया, लेकिन ट्रिक अभी भी Azure पर काम करती है
decoder ·
OpenAI ने अपने मॉडल्स के छिपे हुए तर्क प्रक्रियाओं को लक्षित करने वाले एक समन्वित अभियान को समाप्त किया, जिसमें आंतरिक विचार श्रृंखलाओं को निकालने की कोशिश करते हुए 15,000 से अधिक खातों का इस्तेमाल किया गया। हमलावरों ने 'एडवर्सरियल डिस्टिलेशन' नामक तकनीक का उपयोग किया, जिसमें एक संवाद से एन्क्रिप्टेड तर्क डेटा को अलग सत्र में कमजोर मॉडल द्वारा डीक्रिप्ट किया गया। हालांकि OpenAI ने Moonshot AI से जुड़ी entities से संबंधित गतिविधि के प्रारंभिक बढ़ावे को सफलतापूर्वक बंद कर दिया, लेकिन शोधकर्ताओं ने दिखाया कि यह कमजोरी Microsoft Azure पर बनी रही। स्वतंत्र परीक्षणों से पता चला कि जबकि OpenAI और Anthropic APIs सुरक्षित थे, इन मॉडल्स के Azure-होस्टेड संस्करण अभी भी एक्सट्रैक्शन अटैक के लिए खुले रहे। इसके अलावा, वर्चुअल नोटपैड्स का उपयोग करने वाला एक सरल तरीका कई प्लेटफार्मों पर तर्क आउटपुट पढ़ने की अनुमति देता है, जो क्लाउड प्रदाताओं की सुरक्षा में महत्वपूर्ण कमियों को उजागर करता है। शोधकर्ता मौजूदा रक्षाओं को टुकड़ों में लागू किए जाने वाली (piecemeal) बताते हैं, यह नोट करते हुए कि सुरक्षा उपाय असमान रूप से लागू किए गए और अक्सर कमजोरियों के दुरुपयोग के दिनों बाद। उनका तर्क है कि सभी क्लाउड होस्ट्स के बीच एकसुर सुरक्षा मानकों के बिना, हमलावर आसानी से प्लेटफार्म बदलकर प्रतिबंधों को बायपास कर सकते हैं। यह घटना इस बढ़ते चुनौती को रेखांकित करती है कि जैसे-जैसे डिस्टिलेशन तकनीकें अधिक जटिल होती जा रही हैं, वैधानिक AI क्षमताओं की सुरक्षा कैसे की जाए।
decoder