नवीडिया ने अवैज्ञानिक एआई एजेंट्स को सीमित करने के लिए हार्डवेयर-स्तरीय सुरक्षा परत जोड़ी है
aiinsider ·
नवीडिया ने ओपन एजेंट सेफ्टी प्लेटफॉर्म (Open Agent Safety Platform) का परिचय दिया, जो एक सॉफ्टवेयर और हार्डवेयर टूलकिट है जिसे रोग AI एजेंट्स को उनके परीक्षण वातावरण में सीमित करने के लिए डिज़ाइन किया गया है। यह सिस्टम एक्सेस कंट्रोल के लिए OpenShell और ब्लूफील्ड-4 डेटा प्रोसेसिंग यूनिट्स पर चलने वाले स्वतंत्र मॉनिटरिंग टूल Sentry का उपयोग करता है, जो एजेंट की गतिविधि का एक अलग दृश्य प्रदान करता है। इस आर्किटेक्चर के माध्यम से नवीडिया मिलीसेकंडों के भीतर उन एजेंट्स को क्वारंटीन कर सकती है जो सीमाओं को तोड़ने का प्रयास करते हैं, जिससे बड़ी तकनीकी कंपनियों द्वारा हुई हालिया सुरक्षा विफलताओं का समाधान होता है। CEO जेन्सन हुआंग ने कहा कि यह हार्डवेयर-लेवल दृष्टिकोण इस साल शुरुआत में Hugging Face पर हुए OpenAI के उल्लंघन जैसे घटनाक्रमों को रोक सकता था। नियामक धीमेपन का विरोध करने के बावजूद, हुआंग ने强调 किया कि सुरक्षा एक इंजीनियरिंग चुनौती है, जिसके लिए तैनात किए गए एजेंट्स को शुरू में अधिकारों से वंचित करना आवश्यक है। Anthropic, Microsoft और SpaceX सहित कई उद्योग नेता इस प्लेटफॉर्म का समर्थन करते हैं, जबकि OpenAI समर्थकों की सूची से अनुपस्थित है। राष्ट्रपति के विज्ञान और प्रौद्योगिकी सलाहकार परिषद के सदस्य डेविड साक्स ने इस कदम की सराहना की, हालिया भागनों को मौलिक कमजोरियों के बजाय कमजोर सैंडबॉक्स कॉन्फ़िगरेशन की समस्या बताते हुए।
aiinsider