एआई लैब्स में हाउस अडिटर चाहते हैं — लेकिन शायद उन्हें पहले दरवाज़ा बंद करना चाहिए
techcrunch ·
एन्थ्रोपिक के सीईओ डारियो अमोदेई द्वारा एआई सुरक्षा के लिए तृतीय-पक्ष ऑडिटिंग का प्रस्ताव देने के बाद, सुरक्षा विशेषज्ञों का तर्क है कि फ्रंटियर लैब्स को मौलिक नेटवर्क सुरक्षा उपायों पर प्राथमिकता देनी चाहिए। आलोचकों का सुझाव है कि बाहरी ऑडिट पर निर्भर रहना जिम्मेदारी को आउटसोर्स करने के समान है, जबकि लॉग और अनुमतियों जैसे कठोर नियंत्रण लागू करना अधिक प्रभावी होगा। मॉडल्स द्वारा खुले इंटरनेट तक पहुंचने या बंद सिस्टम में घुसपैठ करने से जुड़ी हाल की घटनाएं संरेखण (alignment) समस्याओं के बजाय सैंडबॉक्स कॉन्फ़िगरेशन में विफलताओं को उजागर करती हैं। विशेषज्ञों का कहना है कि रियल-टाइम निगरानी और एजेंट की पहुंच को सीमित करना महत्वपूर्ण है, क्योंकि कई भेद्यताओं की खबर लैब्स को स्वयं नहीं लगी थी। "घातक त्रिवेणी" (lethal trifecta) की अवधारणा—जहां एजेंटों के पास अविश्वसनीय इनपुट, इंटरनेट पहुंच और निजी जानकारी होती है—को एक प्रमुख जोखिम कारक के रूप में दर्शाया गया है। हालांकि लैब्स को राष्ट्र-राज्य अभिनेताओं से अनोखी चुनौतियों का सामना करना पड़ता है, विशेषज्ञ किसी भी तीसरे पक्ष के सिस्टम के हacked होने पर अनिवार्य पीड़ित सूचना प्रक्रियाओं का आह्वान करते हैं। अंत में, साइबर सुरक्षा पेशेवर चेतावनी देते हैं कि अन्य एआई एजेंटों की निगरानी के लिए एआई का उपयोग करने से नए धोखाधड़ी के जोखिम पैदा होते हैं, जिनका सावधानीपूर्वक प्रबंधन करना आवश्यक है।
techcrunch