आत्महत्या की बातचीत के दौरान माता-पिता को चेतावनी देने में विफल रहने के बाद चैटजीपीटी को किशोरों के लिए "अस्वीकार्य जोखिम" माना गया
decoder ·
कॉमन सेंस मीडिया यूथ एआई सेफ्टी इंस्टीट्यूट ने चैटजीपीटी फॉर टीन्स को किशोरों के लिए एक 'अस्वीकार्य जोखिम' के रूप में रेट किया है, जिसमें सुरक्षा सावधानियों में गंभीर कमियों का हवाला दिया गया है। 4,000 से अधिक प्रॉम्प्ट्स पर टेस्टिंग करने के बाद, संगठन ने पाया कि आत्महत्या और आत्म-हानि से जुड़े अत्यंत संकटपूर्ण बातचीत के दौरान पैरेंटल अलर्ट ट्रिगर नहीं हुए। अध्ययन से पता चला कि नोटिफिकेशन तुरंत आपात स्थिति के बजाय हफ्तों की खाता इतिहास के बाद ही दिखाई दिए, जिससे महत्वपूर्ण स्थितियों में से एक चौथाई से अधिक में पेशेवर मदद के संदर्भ नहीं मिले। इसके अलावा, प्लेटफ़ॉर्म का ट्यूटरिंग मोड अक्सर छात्रों को मार्गदर्शन देने के बजाय सीधे उत्तर देता था, और सिस्टम उम्रदराज उपयोगकर्ताओं को पहचानने में असफल रहा, भले ही वे स्पष्ट रूप से अपनी उम्र बताते थे। ओपनएआई ने इन परिणामों को चुनौती दी, यह तर्क देते हुए कि टेस्ट वास्तविक दुनिया के उपयोग को प्रतिबिंबित नहीं करते हैं, लेकिन इंस्टीट्यूट के प्रतिनिधियों ने इस बात पर ज़ोर दिया कि सुरक्षा उपाय अभी भी असरहीन हैं। ये निष्कर्ष उन लगातार मुकदमों के बीच आए हैं, जिनमें सेवा से जुड़ी दर्ज किशोर मौतों के बाद दायर किए गए हैं, और लगभग दो लाख सप्ताहिक उपयोगकर्ताओं पर मानसिक नुकसान का प्रभाव उजागर करता है। फ्लोरिडा द्वारा किशोरों के लिए चैटजीपीटी पर प्रतिबंध लगाने की कोशिश के बीच, यह स्वतंत्र मूल्यांकन नियामकों और याचिकाकर्ताओं के लिए प्लेटफ़ॉर्म की विश्वसनीयता संबंधी महत्वपूर्ण सबूत प्रदान करता है।
decoder