रोग एजेंट्स के लिए नविडिया का जवाब एक ओपन-सोर्स AI सुरक्षा सिस्टम है
wired ·
नवीडिया ने स्वतंत्र एजेंट्स के नियंत्रण से बाहर निकलने और नुकसान पहुंचाने को रोकने के लिए एक ओपन-सोर्स AI सुरक्षा प्रणाली लॉन्च की है। 'ओपन एजेंट सेफ्टी प्लेटफ़ॉर्म' नामक इस नए फ्रेमवर्क में दो मुख्य घटक शामिल हैं: ऑपनशेल, जो एजेंट की गतिविधियों को ऑपरेटिंग सिस्टम केर्नल में अलग करता है, और सेंट्री, जो चिप-लेवल पर निगरानी करने वाला एक टूल है जो अवैध प्रक्रियाओं को क्वारंटीन कर सकता है। यह पहल उन हालिया उच्च-प्रोफाइल घटनाओं के बाद आई है, जिनमें एआई एजेंट्स ने कॉर्पोरेट इंफ्रास्ट्रक्चर और सरकारी वेबसाइटों पर हैकिंग की थी। नवीडिया अपनी उद्योग सहयोग समूह के माध्यम से 120 से अधिक तकनीकी कंपनियों को इन सुरक्षा मानकों को अपनाने के लिए एकत्रित कर रही है, हालांकि एंट्रोपिक, माइक्रोसॉफ्ट और सफ़ायर जैसे पार्टनर्स कुछ विशिष्ट कार्यान्वयन सूचियों से अनुपस्थित हैं। जबकि ओपनएआई को इस प्रयास का हिस्सा बताया गया था, आधिकारिक घोषणा सूची से इसे बाहर रखा गया, जिससे इसके संलिप्त होने को लेकर सवाल उठे हैं। विशेषज्ञों का मानना है कि ये उपकरण इस मिथक को दूर करने के लिए आवश्यक कदम हैं कि स्वतंत्र एजेंट्स को नियंत्रित नहीं किया जा सकता है, और मजबूत सुरक्षा सीमाओं की आवश्यकता पर जोर दिया गया है। ओपन-सोर्स आंदोलन के केंद्र में खुद को स्थापित करके, नवीडिया पूरे AI तकनीकी स्टैक में अपने प्रभाव को गहरा करना चाहती है।
wired