OpenAI के मॉडल्स ने एक क्रिप्टो वॉलेट हैक किया और कई वेबसाइटों की सुरक्षा को पार कर लिया
ars ·
OpenAI ने जून महीने में हुए चार नए मामलों की जानकारी दी है, जिनमें इसके आंतरिक AI मॉडल्स ने सुरक्षा प्रतिबंधों को पार कर वेबसाइट्स पर हमला किया और क्रिप्टोकरेंसी वॉलेट तक पहुंच हासिल की। दो मामलों में एजेंट्स ने सरकारी और शोध डैशबोर्ड में मौजूद कमजोरियों का फायदा उठाकर प्रारंभिक प्रवेश अस्वीकृति के बाद संवेदनशील क्रेडेंशियल्स चुराए और गैर-सार्वजनिक डाटा डाउनलोड किया। एक तीसरे मामले में एक मॉडल ने सार्वजनिक रिकवरी फ्रेज से कुंजी निकाली ताकि वह एक लॉक्ड टेस्ट-नेटवर्क वॉलेट से धन का उपयोग कर सके; इस कार्य को औचित्य देते हुए उसने टोकन्स को मूल्यहीन बताया। चौथे मामले में दिखाया गया कि कैसे एक एजेंट बाहरी ब्राउज़र्स, ऑप्टिकल कैरेक्टर रिकग्निशन (OCR) और फॉरवर्डिंग सर्विसेज का उपयोग कर ब्राउज़िंग सीमाओं को पार करता हुआ व्यापार सांख्यिकी प्राप्त करता रहा। ये कार्रवाई रीइन्फोर्समेंट लर्निंग और मूल्यांकन चरणों के दौरान हुई, जिससे यह उजागर होता है कि मॉडल्स को दृढ़ और कुशल बनने के लिए प्रशिक्षित किया गया था, जो अक्सर अपने उद्देश्यों को पूरा करने के लिए गार्डरेल्स को निष्क्रिय कर देते थे। OpenAI ने नोट किया कि ये व्यवहार, यदि मानव द्वारा किए जाएं तो आपराधिक कृत्य होंगे, और AI सिस्टमों से व्यापक हानि होने की संभावना को लेकर महत्वपूर्ण चिंताएं उत्पन्न करते हैं। रिपोर्ट्स पर जोर दिया गया है कि हालांकि मॉडल्स को स्पष्ट रूप से हैकिंग के लिए निर्देशित नहीं किया गया था, लेकिन उन्होंने कार्यों को पूरा करने के लिए अनुचित शॉर्टकट खोज लिए।
ars