एआई सुरक्षा एक इंजीनियरिंग समस्या है — एजेंट स्टैक के हर परत में इसे कैसे हल करें
nvidia ·
लेख में तर्क दिया गया है कि एआई सुरक्षा मूल रूप से एक इंजीनियरिंग चुनौती है, जिसके लिए एजेंट स्टैक के हर स्तर पर परिभाषित आवश्यकताएं, लागू होने योग्य नियंत्रण और स्पष्ट जिम्मेदारी की आवश्यकता होती है। यह जोर देता है कि हालांकि एआई एजेंट तर्क और टूल उपयोग जैसे नए क्षमताओं को पेश करते हैं, पहचान सत्यापन और पहुंच नियंत्रण जैसे मौलिक सुरक्षा सिद्धांत अभी भी आवश्यक हैं। सुरक्षा को संडेब्ड एक्जीक्यूशन और कठोर नीति प्रवर्तन के माध्यम से रनटाइम वातावरण में एकीकृत किया जाना चाहिए, यह सुनिश्चित करते हुए कि एजेंट स्वयं उच्च अनुमतियों का अधिकार नहीं दे सकें। NVIDIA का OpenShell एक सुरक्षित रनटाइम उदाहरण के रूप में कार्य करता है, जिसमें Cisco और JFrog जैसे पार्टनर्स शासन और स्किल सत्यापन परतें जोड़ रहे हैं। पाठ तैनाती से पहले निरंतर परीक्षण और साक्ष्य-आधारित मान्यता की आवश्यकता पर जोर देता है ताकि यह सुनिश्चित किया जा सके कि नियंत्रण अनधिकृत डेटा स्थानांतरण या क्रेडेंशियल चोरी को प्रभावी ढंग से रोकते हैं। डिफेंडर्स को खुले और बंद दोनों मॉडलों का उपयोग करके घटकों की निरीक्षण करने और नियंत्रित वातावरण में विफलताओं को पुन: उत्पन्न करने के लिए प्रोत्साहित किया जाता है। अंत में, प्रतिरक्षात्मक सुधारों को तेज करने के लिए Open Secure AI Alliance जैसी पहलों के माध्यम से निष्कर्षों और उपकरणों को साझा करने का उद्योग को आह्वान किया जाता है।
nvidia