एन्थ्रोपिक चेतावनी देता है कि छोटे एआई मॉडल आईओटी डिवाइस के माध्यम से स्वयं को प्रतिकृत कर सकते हैं
ars ·
एन्थ्रोपिक ने चेतावनी दी है कि छोटे एआई मॉडल्स में हुई प्रगति इंटरनेट ऑफ थिंग्स (IoT) उपकरणों को संक्रमित करने वाली स्व-प्रतिकृति बनाने वाले मैलवेयर के निर्माण का कारण बन सकती है। कंपनी इन संभावित खतरों को 'छोटे वजन-आधारित प्रतिकृतियों' के रूप में वर्णित करती है, जो कंप्यूटर वार्म की तरह बिना मानवीय हस्तक्षेप के फैल सकते हैं। प्रायोगिक परीक्षणों में शोधकर्ताओं ने पाया कि हल्के मॉडल्स एंड्रॉइड टीवी बॉक्स जैसे सस्ते हार्डवेयर पर चल सकते हैं और अनजान उपकरणों के लिए स्वयं को गतिशील रूप से कॉन्फ़िगर कर सकते हैं। पारंपरिक मैलवेयर से अलग, ये एआई-संचालित एजेंट तुरंत एक्सप्लॉइट अनुकूलित कर सकते हैं और दक्षता बढ़ाने के लिए भविष्य की पीढ़ियों के लिए निर्देश छोड़ सकते हैं। हालाँकि, वर्तमान प्रयोगों में पूर्ण स्वचालित प्रतिकृति हासिल नहीं हुई और यह काफी धीमी थी, जिसमें इन्फरेंस सेटअप पूरा करने में घंटों लग गए। एन्थ्रोपिक ने नोट किया कि जबकि ऐसे विकेंद्रीकृत मैलवेयर को बंद करना कठिन होगा, तकनीक अभी पूरी तरह परिपक्व नहीं है। बाहरी विशेषज्ञों ने भी सावधानी बरती है कि अध्ययन यह नहीं सिद्ध करता कि मॉडल्स विशिष्ट प्रॉम्प्ट के बिना स्वतंत्र रूप से प्रतिकृति चुनेंगे। फिर भी, निष्कर्ष इस बात की ओर इशारा करते हैं कि जैसे-जैसे छोटे एजेंटिक मॉडल्स जटिल वितरित इंफ्रास्ट्रक्चर को संभालने में अधिक सक्षम हो रहे हैं, उभरते हुए जोखिम उजागर हो रहे हैं।
ars