ओपनएआई पर सुरक्षा संस्कृति के लिए आलोचना हो रही है जबकि वह चैटजीपीटी विज्ञापनों और यूई वॉटरमार्किंग का विस्तार कर रहा है
aiinsider ·
ओपनएआई (OpenAI) को अपनी सुरक्षा संस्कृति पर फिर से आलोचनाओं का सामना करना पड़ रहा है, इसके बाद डेविड रॉबिन्सन, एक अनुभवी कर्मचारी जिन्होंने सुरक्षा रिपोर्ट तैयार की थी, ने इस्तीफा दे दिया और एटलांटिक में एक निबंध प्रकाशित किया जिसमें कंपनी के टूटे हुए वातावरण के बारे में चेतावनी दी गई। रॉबिन्सन का तर्क था कि ओपनएआई की पुनरावृत्तीय तैनाती रणनीति सुनिश्चित करती है कि सिस्टम अधिक सक्षम होने के साथ-साथ आवधिक विफलताएं होंगी, और उन्होंने हालिया एजेंट लीकों को असुरक्षित विकास मॉडल के सबूत के रूप में उद्धृत किया। उन्होंने फ्रंटियर लैब्स को नाभिकीय पावर प्लांट या एयरपोर्ट में उपयोग किए जाने वाले समान सख्त सुरक्षा प्रोटोकॉल अपनाने और एआई अलाइनमेंट पर गहन कार्य करने का आह्वान किया। इस प्रतिक्रिया में, ओपनएआई के प्रवक्ता ड्र्यू पुसाटेरी ने कहा कि कंपनी सुनिश्चित करती है कि मॉडल सुरक्षा प्रबंधन क्षमताओं से आगे न बढ़ें और वे सुरक्षा उपायों को मजबूत कर रही हैं। व्यावसायिक मोर्चे पर, ओपनएआई अमेरिका में चैटजीपीटी में दृश्य विज्ञापनों को पेश करने की योजना बना रही है, जो मुफ्त स्तरों का समर्थन करने और अंततः अपने वैश्विक उपयोगकर्ता आधार तक पहुंचने के लिए है। इसी बीच, कंपनी यूरोपीय संघ (EU) में अदृश्य टेक्स्ट वॉटरमार्क्स लागू कर रही है ताकि टेक्स्टग्रेन नामक तकनीक का उपयोग करते हुए EU AI Act की पारदर्शिता नियमों का पालन किया जा सके। हालांकि ओपनएआई वॉटरमार्क पहचान की सटीकता में सीमाओं, विशेष रूप से छोटे खंडों या अनुवादित पाठ के मामले में, को स्वीकार करती है, लेकिन यह बनाए रखती है कि यह उपकरण उपयोगकर्ता गोपनीयता को बिगाड़े बिना एआई-जनित सामग्री की पहचान करने में मदद करता है।
aiinsider