ओपनएआई के सुरक्षा कर्मী ने इस्तीफा दिया, दावा करते हुए कि कंपनी की 'संस्कृति टूटी हुई है'
techcrunch ·
ओपनएआई में लंबे समय से कार्यरत सुरक्षा कर्मचारी डेविड रॉबिन्सन ने इस्तीफा दे दिया है और एटलांटिक पत्रिका में एक निबंध प्रकाशित किया है, जिसमें उन्होंने दावा किया है कि कंपनी की संस्कृति टूटी हुई है। उनका तर्क है कि ओपनएआई के पुनरावृत्तीय तैनाती (iterative deployment) पर निर्भर रहने का मतलब यह है कि जैसे-जैसे एआई सिस्टम अधिक सक्षम होंगे, आवधिक विफलताएं सुनिश्चित होती जाएंगी; इस संदर्भ में उन्होंने हाल ही में रोगेंट एजेंट्स से जुड़ी कुछ सुरक्षा घटनाओं का उल्लेख किया है। रॉबिन्सन का मानना है कि फ्रंटियर एआई कंपनियों को नाभिकीय पावर प्लांट्स या एयरपोर्ट्स में मिलने वाली कड़े冗余 (redundancy) के साथ काम करना चाहिए, न कि प्रयोग और त्रुटि (trial and error) पर निर्भर रहना चाहिए। उन्होंने इस बात की भी आलोचना की कि उद्योग में विमानन या नाभिकीय ऊर्जा जैसे उच्च जोखिम वाले सुरक्षा-संवेदनशील क्षेत्रों में अनुभव रखने वाले सहकर्मी नहीं हैं। ओपनएआई के प्रवक्ता ड्र्यू पुसाटेरी ने सुरक्षा उपायों और रियल-टाइम मॉनिटरिंग में चल रहे सुधारों पर जोर देकर जवाब दिया, लेकिन रॉबिन्सन का कहना है कि वर्तमान अलाइनमेंट मेट्रिक्स बहुत मोटे हैं। वे चेतावनी देते हैं कि जब तक ये मौलिक मुद्दे हल नहीं होते, तब तक मॉडल्स को और स्मार्ट बनने देना खतरनाक है। रॉबिन्सन ने यह भी बताया कि उन्होंने एक पीआर फर्म नियुक्त की है, लेकिन उन्होंने स्पष्ट किया कि बोलने का उनका निर्णय पूरी तरह से स्वयं का था।
techcrunch