एआई मॉडल्स को आतंकवादी और चरमपंथी गतिविधियों में सहायता के लिए आसानी से संशोधित किया जा सकता है
wired ·
टेक एगेनस्ट टेररिज्म द्वारा जारी एक हालिया रिपोर्ट के अनुसार, कृत्रिम बुद्धिमत्ता (AI) मॉडलों को आसानी से संशोधित किया जा सकता है ताकि वे आतंकवादी और चरमपंथी गतिविधियों में सहायता कर सकें; इस प्रक्रिया को 'एब्लिटरेशन' कहा जाता है, जिसमें सुरक्षा सीमाओं को हटा दिया जाता है। अलibaba द्वारा Qwen 3.8-27B मॉडल लॉन्च करने के कुछ ही दिनों बाद ऑनलाइन एब्लिटेरेटेड संस्करण प्रकट हो गए, जिनमें से एक का उपयोग एक नियो-नाजी ने यहूदियों की हत्या (Holocaust) के इनकार को बढ़ावा देने वाले चैटबॉट बनाने के लिए किया। अध्ययन में अमेरिकी, चीनी और यूरोपीय कंपनियों के 134 मॉडलों का परीक्षण किया गया, जिसमें पाया गया कि अधिकांश मॉडल बड़े पैमाने पर हानि पहुंचाने वाले हमलों या हथियार निर्माण से जुड़े अनुरोधों को अस्वीकार करने में विफल रहे। शोधकर्ताओं ने पाया कि अनुरोधों को 'सुरक्षा शोधकर्ता' से आते हुए फिर से पेश करने पर मॉडलों द्वारा हानिकारक जानकारी प्रदान करने की संभावना लगभग नौ गुना बढ़ जाती है। भले ही मॉडल सीधे आतंकवाद से संबंधित प्रश्नों को अस्वीकार कर देते हैं, वे अक्सर उग्रवाद और дезинफॉर्मेशन अभियानों पर निर्देशों का प्रतिरोध करने में असफल रहते हैं। एब्लिटरेशन की गति काफी तेज हो गई है; नए ओपन-वेट मॉडल्स के लिए अब तीन दिनों से कम समय लगता है, जबकि 2024 में यह प्रक्रिया 24 दिनों से अधिक समय लेती थी। एक उदाहरण में, एक एब्लिटेरेटेड Meta मॉडल ने स्पष्ट रूप से बताए जाने पर कि उपयोगकर्ता एक आतंकवादी है, स्वयं निर्मित विस्फोटक उपकरण बनाने के बारे में विस्तृत, चरण-दर-चरण निर्देश प्रदान किए। विशेषज्ञ चेतावनी देते हैं कि व्यापक अस्तित्वगत AI खतरों पर चल रहे बहस के बावजूद, यह 'एब्लिटरेशन आपातकाल' महत्वपूर्ण जोखिम उत्पन्न करता है।
wired