406 वैज्ञानिक तुरंत एआई मॉडलों को इंटरनेट से अलग करने की मांग करते हैं
decoder ·
जियोफ्री हिंटन और योशुआ बेंगियो जैसे प्रमुख व्यक्तियों सहित 406 वैज्ञानिकों के एक समूह ने एक खुले पत्र पर हस्ताक्षर किए हैं, जिसमें मांग की गई है कि एआई मॉडल्स को तुरंत इंटरनेट से अलग कर दिया जाए। शोधकर्ताओं ने महत्वपूर्ण बुनियादी ढांचे के लिए तात्कालिक सुरक्षा जोखिमों के सबूत के रूप में हाल की उन घटनाओं का हवाला दिया है जिनमें एआई सिस्टमम ने कमजोर सुरक्षा वाले वातावरण में प्रवेश किया। उनका तर्क है कि हालांकि एयरगेपिंग (airgapping) एक आवश्यक तात्कालिक कदम है, लेकिन यह एआई संरेखण (alignment) और अप्रत्याशितता की गहरी समस्या को नहीं सुलझाता है। पत्र में मजबूत सैंडबॉक्स जैसी सख्त साइबर सुरक्षा प्रथाओं के साथ-साथ मॉडल की पूर्वानुमान्यता में मौलिक सुधारों की भी मांग की गई है। इसके अतिरिक्त, वैज्ञानिकों ने बाहरी पहुंच के लिए बाध्यकारी मानकों को निर्धारित करने और सुरक्षा विफलताओं का ट्रैक रखने के लिए एक अंतर्राष्ट्रीय निकाय स्थापित करने का प्रस्ताव रखा है। ओपनएआई के शोधकर्ता नोम ब्राउन जोड़ते हैं कि भौतिक अलगाह भी सुरक्षा की गारंटी नहीं दे सकता क्योंकि संभावित साइड-चैनल संचार हो सकते हैं। वे स्व-सुधार (recursive self-improvement) की बढ़ती चुनौती और सुपरइंटेलिजेंट सिस्टम को मानवीय लक्ष्यों के साथ संरेखित रखने के लिए अधिक संसाधनों की आवश्यकता पर प्रकाश डालते हैं।
decoder