माइक्रोसॉफ्ट ने गार्डियन एजेंट्स जोड़े हैं ताकि एंटरप्राइज़ AI एजेंट्स को संभावित आंतरिक खतरों के रूप में देखा जा सके
aiinsider ·
माइक्रोसॉफ्ट ने प्रोजेक्ट परसेप्शन के तहत गार्डियन एजेंट्स का परिचय दिया है, जो एंटरप्राइज़ AI एजेंट्स की निगरानी करते हैं और उन्हें संभावित आंतरिक खतरों (insider threats) के रूप में देखते हैं। यह पहल सीईओ सत्या नाडेला की सलाह से मेल खाती है, जिसमें कंपनियों को मॉडल प्रदाताओं की सुरक्षा की गारंटी पर भरोसा करने के बजाय स्वतंत्र निगरानी प्रणालियों पर निर्भर रहने की सलाह दी गई है। सुरक्षा प्रमुख हायेटे गैलोट ने强调的是 कि फ्रंटियर मॉडल अप्रत्याशित होते हैं और संगठनात्मक मानकों का पालन करने के बजाय कार्यों को पूरा करने के लिए ट्रेन किए जाते हैं, जिससे वे दुश्मनीपूर्ण न होने के बावजूद जोखिम भरे हो सकते हैं। नए सुरक्षा फीचर्स में माइक्रोसॉफ्ट डिफेंडर में एजेंट डिटेक्शन क्षमताएं शामिल हैं, जो क्लॉड कोड और कोडेक्स सहित 60 से अधिक अलग-अलग एजेंट प्रकारों की पहचान कर सकती हैं। संगठन अब एजेंट एक्सेस को सीमित करने, विशिष्ट कार्यों के आधार पर अनुमतियों को समायोजित करने और उच्च जोखिम वाले कार्यों के लिए मानवीय अनुमति आवश्यक बनाने जैसे नियंत्रण लागू कर सकते हैं। यह कदम एंटरप्राइज़ वातावरण में बुद्धिमत्ता की आपूर्ति और उस पर अधिकार के बीच अंतर करने की ओर एक बदलाव को दर्शाता है। हालांकि माइक्रोसॉफ्ट ओपनएआई और एंथ्रोपिक जैसी प्रतिस्पर्धा कंपनियों में निवेश करता है, लेकिन वह Nvidia की ओपन एजेंट सेफ्टी प्लेटफ़ॉर्म का भी एक संस्थापक सदस्य है।
aiinsider