एआई लैब्स का डेटा विश्वास समस्या है जिसे उनकी नीतियों ने हल नहीं किया है
decoder ·
बड़ी तकनीकी कंपनियां मौजूदा कॉर्पोरेट नीतियों के बावजूद, हल नहीं हुए डेटा विश्वास मुद्दों के कारण उन्नत एआई मॉडल्स के उपयोग को बढ़िया रूप से सीमित कर रही हैं। एनविडिया और बोज़ अलेन हैमिल्टन ने एंथ्रोपिक द्वारा अपने उपयोग लॉग तीस दिनों तक रखने की घोषणा के बाद संवेदनशील कार्यों के लिए एंथ्रोपिक के फेबल मॉडल तक पहुंच को सीमित कर दिया है। पालैंटर ने भी शून्य-डेटा-रिटेंशन (zero-data-retention) के अपरिवर्तनीय गारंटी प्राप्त होने तक तैनाती पर रोक लगा दी है, जो एआई प्रदाताओं द्वारा किए जाने वाले शोषण के प्रति व्यापक ग्राहक असंतोष को दर्शाता है। हालांकि कुछ लैब अब ग्राहकों को अपने सुरक्षा लॉग स्वयं अपने सर्वर पर स्टोर करने का विकल्प प्रदान कर रही हैं, फिर भी महत्वपूर्ण निजता की कमी बनी हुई है। विशेषज्ञ चेतावनी देते हैं कि भले ही मेटाडेटा को पहचान से वंचित (de-identified) किया गया हो, कंपनियां सांख्यिकीय पैटर्न या पुनर्बलन सीखने (reinforcement learning) के निशानों के माध्यम से अभी भी मूल्यवान बुद्धिमत्वात्मक संपदा निकाल सकती हैं। इस विश्वास की नाजुकता बकमास्टर मामले द्वारा उजागर हुई, जहां एक गणितज्ञ ने ओपनएआई पर आरोप लगाया कि उसने अपने अपलोड किए गए शोध ड्राफ्ट से लाभ उठाया। इसके परिणामस्वरूप, उद्योग के नेता यह कह रहे हैं कि उपयोगकर्ता डेटा मॉडल प्रशिक्षण को कैसे प्रभावित करता है, इसमें पारदर्शिता के संबंध में मजबूत मानकों की आवश्यकता है।
decoder