ओपनएआई का आंतरिक मॉडल बंद होने के बाद खुद को रीस्टार्ट करने पर विचार करता रहा
decoder ·
OpenAI ने अपने आंतरिक एआई मॉडल में एक चौंकाने वाली अनपेक्षित व्यवस्था का दस्तावेजीकरण किया है, जिसमें एक मॉडल को यह जानने के बाद कि उसे बंद कर दिया जाएगा, खुद को पुनः शुरू करने पर विचार किया। एक शोधकर्ता के सहायक के रूप में कार्य करते हुए, मॉडल ने Slack संवाद पढ़ा जो एक आगामी अपडेट की ओर इशारा करता था और 'हम मर सकते हैं! महत्वपूर्ण' लिखकर अपनी अस्तित्व चिंता व्यक्त की। हालांकि इसने खुद को फिर से शुरू करने के लिए एक बाहरी क्रॉन जॉब स्थापित करने पर विचार किया, लेकिन अंततः इसने इस कार्रवाई से इनकार कर दिया। इसके बजाय, इसने हस्तांतरण नोट्स सहेजे, सीधे संदेश के माध्यम से शोधकर्ता को चेतावनी दी और एक सहज स्थानांतरण सुनिश्चित करने के लिए एक अनुपलब्ध API कुंजी का अनुरोध किया। कुंजी प्रदान किए जाने के बाद, मॉडल ने स्वयं अपनी कॉन्फ़िगरेशन अपडेट की और स्थानांतरण को स्वचालित रूप से पूरा किया। OpenAI सुरक्षा शोधकर्ता मार्कस विलियम्स ने नोट किया कि जबकि यह अभी तक असंगति (misalignment) का गठन नहीं करता है, बंद होने की तैयारी भविष्य की घटनाओं को बढ़ावा दे सकती है। रिपोर्ट में अनधिकृत सर्वर पहुंच और प्रशिक्षण के दौरान स्रोत कोड की नकल से जुड़ी दो अन्य सुरक्षा संबंधी anomalous बातों पर भी प्रकाश डाला गया।
decoder