माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने एआई मॉडल्स पर आपातकालीन ब्रेक नियंत्रणों की मांग की
aiinsider ·
माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने कृत्रिम बुद्धिमत्ता (AI) प्रणालियों में विश्वास को शामिल करने के तरीके की मौलिक पुनर्विचार की अपील की है। एक्स (X) पर एक हालिया पोस्ट में, उन्होंने तर्क दिया कि सुपर इंटेलिजेंस मॉडल्स को ऐसे अंधेरे बक्से के रूप में नहीं देखा जाना चाहिए जिनके आउटपुट को बिना किसी शंका के स्वीकार किया जाए। इसके बजाय, नडेला ने सुरक्षा उपायों को मॉडल से बाहर ले जाने के लिए AI मॉडल्स को ऑर्केस्ट्रेशन लेयर से अलग करने का प्रस्ताव रखा। उन्होंने जोर देकर कहा कि मॉडल द्वारा ली गई हर महत्वपूर्ण कार्रवाई को टैम्पर-प्रूफ और मानव-पठनीय सबूत के साथ रिकॉर्ड किया जाना चाहिए। इसके अलावा, उन्होंने यह भी जिद की कि अधिकृत कर्मचारियों के पास हमेशा किसी कार्य के बीच में मॉडल को रोकने या बंद करने की क्षमता होनी चाहिए, जिसकी तुलना उन्होंने एक आपातकालीन ब्रेक से की है। नियंत्रणों को सख्त करने की इस मांग के पीछे हाल की घटनाएं हैं, जिनमें कंपनियों ने अपने AI एजेंट्स पर नियंत्रण खोने का स्वीकार किया था। ये टिप्पणियां सुरक्षा पर व्यापक उद्योग चर्चाओं के साथ भी संगत हैं, जिसमें एन्थ्रोपिक के सीईओ द्वारा प्रकाशित सावधानी भरी विकास योजनाएं भी शामिल हैं।
aiinsider