ओपनएआई से सुरक्षा शोधकर्ता का और एक अलग होना सार्वजनिक चेतावनियों के पैटर्न में जुड़ता है
decoder ·
डेविड रॉबिंसन, जो ओपनएआई की ट्रस्टवर्थी एआई टीम के पूर्व सुरक्षा शोधकर्ता थे, कंपनी छोड़ चुके हैं और एटलांटिक पत्रिका में अपनी सुरक्षा संस्कृति पर एक आलोचनात्मक निबंध प्रकाशित किया है। उनका तर्क है कि एआई उद्योग का परीक्षण-भूल (trial and error) पर निर्भर रहना, जैसे-जैसे सिस्टम अधिक शक्तिशाली होते जा रहे हैं, बढ़ती खतरनाक गलतियों का कारण बन रहा है; उन्होंने ओपनएआई और एन्थ्रोपिक दोनों में हुई घटनाओं का हवाला दिया है। रॉबिंसन का मानना है कि एआई कंपनियों को नाभिकीय पावर प्लांटों में उपयोग किए जाने वाले कड़े सुरक्षा मानकों को अपनाना चाहिए, जिसमें बहुस्तरीय रिडंडेंसी शामिल हो। इसके अलावा, वे यह भी_assert करते हैं कि संगठनों को सुपरइंटेलिजेंट सिस्टम को जिम्मेदारी से ट्रेन करने से पहले अपने कर्मचारियों के साथ मानवीय व्यवहार का प्रदर्शन करना होगा। यह छुट्टी ओपनएआई में एक दोहरावदार पैटर्न को जारी रखती है, जहां सुरक्षा विशेषजन सार्वजनिक चेतावनियां देते हुए कंपनी छोड़ रहे हैं; यह रुझान मई 2024 में जैन लेइके के साथ शुरू हुआ था। इसके अतिरिक्त, रॉबिंसन ने नोट किया कि ओपनएआई ने हाल ही में तीन सुरक्षा विशेषज्ञों को नौकरी से निकाल दिया था, जिन्होंने दावा किया गया है कि किसी बाहरी सुरक्षा फर्म के साथ जानकारी साझा की थी। ये घटनाएं चले जा रहे शोधकर्ताओं के बीच वर्तमान एआई सुरक्षा प्रोटोकॉल की पर्याप्तता को लेकर बढ़ती चिंताओं को रेखांकित करती हैं।
decoder