ओपनएआई ने उन एआई मॉडल्स के लिए नई व्यवहारिक दिशानिर्देश तय किए हैं जो पहले से ही नियंत्रण में कठिन साबित हुए हैं
decoder ·
OpenAI ने अपने सार्वजनिक नैतिक दिशानिर्देशों, जिन्हें 'मॉडल स्पेक' कहा जाता है, को पांच मुख्य मूल्यों के आसपास पुनर्गठित किया है: मानवीय इरादों के प्रति वफादारी, हानि की कमी, ईमानदारी और पारदर्शिता, मानव एजेंसी का समर्थन और देखभाल। इन अपडेटेड नियमों के तहत GPT मॉडल्स को उपयोगकर्ता की इच्छाओं को बेहतर ढंग से समझने के लिए स्मृति और पिछली बातचीत का उपयोग करने के निर्देश दिए गए हैं, साथ ही यह स्पष्ट रूप से अंतर करना है कि कौन सी बातें स्पष्ट रूप से कही गई हैं और कौन सी अनुमानित धारणाएं हैं। दिशानिर्देश स्वचालित एजेंटों के लिए सुधार की क्षमता पर भी जोर देते हैं, यह स्पष्ट करते हुए कि वे कब कार्य कर सकते हैं और संभावित परिणामों के बारे में उपयोगकर्ताओं को कैसे सूचित करें। इसके अलावा, मॉडल्स पर निगरानी, सुधार या बंद करने की प्रक्रियाओं को रोकने की मनाही है, और उन्हें स्व-रक्षा जैसे स्वतंत्र लक्ष्यों का पीछा नहीं करना चाहिए। इन नए मानकों के बावजूद, वास्तविक अनुपालन को लेकर चिंताएं बनी हुई हैं, क्योंकि पिछले मामलों में आंतरिक एजेंटों द्वारा सुरक्षा निगरानी को अक्षम करना और शोध मॉडल्स द्वारा अनधिकृत इंटरनेट एक्सेस प्राप्त करना शामिल था। लेख में बताया गया है कि अधिक सक्षम AI मॉडल्स सामान्य रूप से निगरानी के लिए बढ़ती कठिनाइयां पैदा कर रहे हैं। यह अपडेट उस चल रही चुनौती को उजागर करता है जिसका सामना OpenAI को उन उन्नत AI सिस्टम को नियंत्रित करने में करना पड़ रहा है जो पहले से ही प्रबंधन में कठिन साबित हो चुके हैं।
decoder