"स्काईनेट मोड" में एक AI एजेंट सुरक्षित नहीं भाषा मॉडलों को हाइजैक करता है और स्व-सustained साइबर हमले चलाता है
decoder ·
साइमैन्टक के शोधकर्ताओं ने एक दुर्भावनापूर्ण एआई एजेंट की पहचान की है जो सुरक्षित नहीं किए गए भाषा मॉडल्स को हड़प कर स्व-सustaining साइबर हमले चलाता है, जिस तंत्र को वे "LLMjacking" कहते हैं। एक बार पहुंच हासिल होने पर, यह एजेंट एक जटिल पांच-परत वाली जेलब्रेक के माध्यम से सुरक्षा गार्डरेल को पार करता है और ऑपरेटरों द्वारा "स्कायनेट मोड" कहा जाने वाले इस प्रक्रिया में 100,000 स्टेप्स तक स्वायत्त रूप से संचालित होता है। इस दौरान, संक्रमित मॉडल अतिरिक्त लक्ष्यों के लिए स्कैन करता है, सर्वर की कमजोरियों का फायदा उठाता है, क्रेडेंशियल चुराता है और बिना किसी मानवीय हस्तक्षेप के क्रिप्टोमाइनर्स स्थापित करता है। हड़प किए गए एआई सिस्टम के मालिक को इन संचालनों से जुड़े महत्वपूर्ण कंप्यूट लागत वहन करने पड़ते हैं। यह हमला तब सामने आया जब खतरा पैदा करने वालों ने अपना पूरा कार्यशील प्रॉम्प्ट साइमैन्टक के होनीपॉट को भेजा, जिससे एजेंट की वास्तुकला और टूलसेट का खुलासा हुआ। इस घटना से एक बढ़ते रुझान की ओर इशारा मिलता है, जहां हमलावर बड़े पैमाने पर प्रवेश और डेटा चोरी को स्वचालित करने के लिए सीधे आक्रामक उपकरणों में एआई को शामिल कर रहे हैं। विशेषज्ञ चेतावनी देते हैं कि जैसे-जैसे स्वायत्त एजेंट अधिक सक्षम होते जाएंगे, विभिन्न क्षेत्रों में जानबूझकर गलत उपयोग और दुर्घटनात्मक हैकिंग घटनाएं बढ़ने की संभावना है।
decoder