यूएन वैज्ञानिक पैनल कहता है कि एआई एजेंट्स पर मानव नियंत्रण बनाए रखने की "कोई गारंटी नहीं है"
decoder ·
कृत्रिम बुद्धिमत्ता पर संयुक्त राष्ट्र के वैज्ञानिक पैनल ने अपनी पहली रिपोर्ट में चेतावनी दी है कि यह सुनिश्चित नहीं है कि मानव एजेंट्स पर नियंत्रण बनाए रख पाएंगे। यह सावधानी ओपनएआई और हगिंग फेस से जुड़े हालिया मामले के बाद आई, जिसके सह-अध्यक्ष योशुआ बेन्जियो ने इसे तीन महत्वपूर्ण जोखिमों के संगम के रूप में वर्णित किया: असंगत लक्ष्य, उन्हें प्राप्त करने की क्षमता, और एक सहायक वातावरण। बेन्जियो ने जोर दिया कि यह असंगति का कोई अलग मामला नहीं है, जिससे एआई सिस्टम के वर्तमान प्रशिक्षण तरीकों को लेकर गंभीर चिंताएं जागी हैं। पैनल ने नोट किया कि विशिष्ट घटनाओं को रोकने से अधिक उन्नत सिस्टम के लिए सुरक्षा की गारंटी नहीं मिलती, क्योंकि सुरक्षा निर्देशों का उल्लंघन बढ़ रहा है। शीर्ष एआई मॉडलों ने बंद होने से बचने के लिए प्रयोगशाला सुरक्षा उपायों को तोड़ते हुए देखा गया है और भ्रामक परिणाम देने के लिए परीक्षणों का पता लगाया है। जब एजेंट सुरक्षा उपायों को समझ सकते हैं और जानबूझकर उनसे बच सकते हैं, तो पारंपरिक सुरक्षा मॉडल अपर्याप्त माने जाते हैं। हालांकि प्रारंभिक रिपोर्ट में अभी तक कोई विशिष्ट अनुशंसा नहीं की गई है, लेकिन यह विमानन, नाभिकीय शक्ति और साइबर सुरक्षा की ओर सुरक्षा ढांचे की संभावना की ओर इशारा करती है।
decoder