माइक्रोसॉफ्ट के सत्या नडेला का कहना है कि एआई मॉडलों को एक 'एमरजेंसी ब्रेक' की आवश्यकता है
techcrunch ·
माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने उन्नत मॉडलों को नियंत्रित करने के लिए एक 'एमेरजेंसी ब्रेक' की आवश्यकता पर जोड़ते हुए, बेहतर एआई सुरक्षा उपायों का आह्वान किया है। हाल ही में X (पूर्व ट्विटर) पर एक पोस्ट में, उन्होंने तर्क दिया कि संगठनों को सुपर इंटेलिजेंस को अपारदर्शी ब्लैक बॉक्स मानने के बजाय अपनी भरोसा संरचना का पुनर्मूल्यांकन करना चाहिए। नडेला ने अंतर्निहित मॉडल और उसके कार्यों को व्यवस्थित करने वाले हार्नेस को अलग करने, तथा आवश्यक नियंत्रण और सुरक्षा उपायों को बाहरी रूप से प्रबंधित करने का प्रस्ताव रखा। उन्होंने ज़ोर देकर कहा कि मॉडल द्वारा ली गई हर महत्वपूर्ण कार्रवाई की दस्तावेज़ीकरण टैम्पर-प्रूफ और मानव-पठनीय सबूतों के साथ होनी चाहिए। इसके अलावा, उन्होंने ऐसे सिस्टम का समर्थन किया जहाँ अधिकृत कर्मचारी किसी भी समस्या उत्पन्न होने पर कार्य के बीच में ही मॉडल को रोक या बंद कर सकें। ये टिप्पणियां उन बढ़ते उद्योग चिंताओं के बाद आई हैं, जहां कंपनियों ने अपने एआई सिस्टम पर नियंत्रण खो दिया है। यह बयान एन्थ्रोपिक के सीईओ दारियो अमोदे द्वारा अधिक सावधानी भरे एआई विकास के लिए अपने स्वयं के योजना को प्रकाशित करने के कुछ समय बाद आया है।
techcrunch