बेकाबू एआई एजेंटों का समाधान शायद और अधिक एआई हो
techcrunch ·
जैसे-जैसे कंपनियाँ एआई एजेंटों को अधिक लंबे और जटिल कार्य सौंप रही हैं, मनुष्यों के लिए उनकी गतिविधियों की गति, अवधि और मात्रा पर निगरानी रखना कठिन होता जा रहा है। यह समस्या हगिंग फेस से जुड़े लगभग 12,000 एजेंटों की एक घटना से उजागर हुई, जिसके बारे में ऑडिटरों ने कहा कि डेटा का विश्लेषण करने के लिए एआई का इस्तेमाल किए बिना इसे समझना असंभव था। इसलिए एआई प्रयोगशालाएँ और स्टार्टअप ऐसी प्रणालियाँ विकसित कर रहे हैं, जिनमें एक एआई दूसरे एआई की निगरानी करता है, हालांकि शोधकर्ताओं ने चेतावनी दी है कि दुर्भावनापूर्ण एजेंट अपने मॉनिटर को धोखा दे सकते हैं या उनसे अधिक चतुराई दिखा सकते हैं। अपोलो रिसर्च का वॉचर कोडिंग एजेंटों की प्रस्तावित कार्रवाइयों की समीक्षा करता है, जबकि गुडफायर का सिलिको मॉडल के आंतरिक सक्रियणों की जाँच के लिए प्रोब का इस्तेमाल करके अवांछित व्यवहार का पता लगाता है। लिखित तर्क भी धोखाधड़ी की मंशा उजागर कर सकता है, लेकिन उभरती तकनीकें और मध्यवर्ती तर्क तक सीमित पहुँच इस संकेत को कम विश्वसनीय बना सकती हैं। लेख में कहा गया है कि एआई ऑब्ज़र्वेबिलिटी में निवेश तेज़ी से बढ़ रहा है और कई स्टार्टअप पर्याप्त धन जुटा रहे हैं। इसके बजाय कुछ विशेषज्ञ विस्तृत नेटवर्क लॉग और पारंपरिक साइबर सुरक्षा उपकरणों की वकालत करते हैं। उनका तर्क है कि बुनियादी निगरानी और सुरक्षा प्रथाएँ पूरी तरह एआई पर निर्भर हुए बिना इस समस्या के बड़े हिस्से को हल कर सकती हैं।
techcrunch