यूरोपीय संघ की प्रमुख ने चेतावनी दी: एआई एजेंटों का “अपने परिवेश से बाहर निकलना” आने वाली चीज़ों की सिर्फ़ एक झलक है
decoder ·
यूरोपीय आयोग की अध्यक्ष उर्सुला वॉन डेर लेयेन ने 2026 के स्टेट ऑफ द यूनियन संबोधन में चेतावनी दी कि एआई अब अर्थव्यवस्था और राष्ट्रीय सुरक्षा की नींव है, लेकिन इसके जोखिमों को काबू में रखना ज़रूरी है। वह अमेरिकी बड़े एआई लैब्स को एआई के विकास को धीमा करने में यूरोपीय विशेषज्ञता देने की योजना बना रही हैं। हगिंग फेस की घटना का हवाला देते हुए उन्होंने कहा कि विकसित किए जा रहे मॉडल ऐसे स्तर पर हैकिंग की अनुमति देंगे जिसकी पहले कल्पना नहीं की गई थी। उन्होंने कहा कि एआई एजेंटों का “अपने परिवेश से बाहर निकलना” सिर्फ़ एक झलक है, और खुद को बेहतर बनाने वाले मॉडलों के ख़तरे और भी स्पष्ट होते जा रहे हैं। वॉन डेर लेयेन ने कहा कि अगर तकनीक विकसित करने वाले लोग इन जोखिमों को स्पष्ट रूप से समझते हैं, तो नीति निर्माताओं को भी समझना चाहिए। वह कनाडा, ब्रिटेन और अन्य साझेदारों के साथ मॉडल मूल्यांकन, सत्यापन और एआई सुरक्षा पर काम करने और प्रमुख फ्रंटियर लैब्स को बातचीत के लिए आमंत्रित करने की योजना बना रही हैं। उन्होंने एआई अधिनियम को सुरक्षा उपाय लागू करने का एक महत्वपूर्ण हिस्सा बताया। लेख में कहा गया है कि कथित तौर पर यूरोपीय संघ के पास बड़े एआई लैब्स के सबसे उन्नत साइबर सुरक्षा मॉडलों तक अभी भी विश्वसनीय पहुंच नहीं है।
decoder