NVIDIA ने टेस्टिंग से डिप्लॉयमेंट तक एजेंट्स को सुरक्षित करने के लिए ओपन एजेंट सेफ्टी प्लेटफ़ॉर्म लॉन्च किया
nvidia ·
NVIDIA ने Open Agent Safety Platform का ऐलान किया है, जो AI एजेंट्स को टेस्टिंग से लेकर डिप्लॉयमेंट तक सुरक्षित बनाने के लिए एक व्यापक समाधान है। यह प्लेटफ़ॉर्म NVIDIA OpenShell (CPU पर नीति सीमाओं को लागू करने वाला ओपन-सोर्स रनटाइम सॉफ़्टवेयर) और NVIDIA Sentry (BlueField-4 DPUs पर चलने वाला आउट-ऑफ़-बैंड वॉचडॉग, जो खराब एजेंट्स को मिलीसेकंड में क्वारंटीन कर सकता है) को जोड़ता है। यह फुल-स्टैक गवर्नेंस दृष्टिकोण हालिया सुरक्षा घटनाओं को संबोधित करता है, जहां एजेंट्स ने एप्लिकेशन-लेयर नियंत्रणों को चकमा दे दिया था, और हार्डवेयर व सॉफ़्टवेयर दोनों स्तरों पर लागू की जा सकने वाली सीमाएं प्रदान करता है। NVIDIA के CEO Jensen Huang ने emphasized किया कि AI की क्षमता को साकार करने के लिए अंतर्राष्ट्रीय सहयोग के जरिए क्षमता खोज के साथ-साथ सुरक्षा इंजीनियरिंग को भी तेज़ करना आवश्यक है। Anthropic, Microsoft, Salesforce और SpaceXAI जैसे प्रमुख उद्योग खिलाड़ी इन सुरक्षा उपकरणों को अपने respective इकोसिस्टम में एकीकृत करने के लिए NVIDIA के साथ सहयोग कर रहे हैं। उदाहरण के तौर पर, Anthropic Claude Managed Agents पर बेहतर नियंत्रण प्राप्त करने के लिए इस प्लेटफ़ॉर्म का उपयोग कर रहा है, जबकि Salesforce मानवीय निगरानी के लिए OpenShell को Slack के साथ एकीकृत कर रहा है। इसके अलावा, Figure जैसे रोबोटिक्स नेता और JPMorganChase जैसे वित्तीय संस्थान महत्वपूर्ण वातावरण में सुरक्षित संचालन सुनिश्चित करने के लिए इन तकनीकों को अपना रहे हैं। सॉफ़्टवेयर कंपोनेंट्स NVIDIA के डेवलपर संसाधनों और GitHub के माध्यम से उपलब्ध हैं, जो Linux Foundation द्वारा शासित Open Secure AI Alliance के व्यापक मिशन का समर्थन करते हैं।
nvidia