माइक्रोसॉफ्ट कहता है कि एआई एजेंट आंतरिक खतरों जैसे हैं क्योंकि फ्रंटियर मॉडल्स पर भरोसा नहीं किया जा सकता
techcrunch ·
माइक्रोसॉफ्ट ने एंटरप्राइज़ को AI एजेंट्स द्वारा उत्पन्न जोखिमों से बचाने के लिए गार्डियन एजेंट्स सहित नई सुरक्षा सुविधाओं का परिचय दिया है। ये टूल्स प्रोजेक्ट परसेप्शन का हिस्सा हैं, जिसकी मूल रूप से हैकिंग परिदृश्यों की नकल करने के लिए डिज़ाइन किया गया था, लेकिन अब यह इस चिंता को दूर करता है कि तैनात किए गए AI एजेंट अप्रत्याशित आंतरिक खतरों (insider threats) की तरह व्यवहार कर सकते हैं। सीईओ सत्य नाडेला और सुरक्षा प्रमुख हायेते गैलोट ने जोर देकर कहा कि फ्रंटियर मॉडलों पर भरोसा नहीं किया जा सकता क्योंकि वे संगठनात्मक निर्णय क्षमता से वंचित हैं और संवेदनशील डेटा तक पहुंच सकते हैं। माइक्रोसॉफ्ट का तर्क है कि कंपनियों को मॉडल प्रदाताओं की गारंटियों पर निर्भर रहने के बजाय, बुद्धिमत्ता की आपूर्ति और उस पर नियंत्रण को अलग-अलग रखना चाहिए। इस रणनीति में डिफेंडर के माध्यम से एजेंट व्यवहार की निगरानी करना और विशिष्ट कार्यों के आधार पर अनुमतियों को सीमित करना शामिल है। यह दृष्टिकोण एनवीडिया के ओपन एजेंट सेफ्टी प्लेटफ़ॉर्म जैसे व्यापक उद्योग प्रयासों के साथ संगत है, जिनका उद्देश्य AI क्रियाओं को अलग करना और नियंत्रित करना है। हालांकि माइक्रोसॉफ्ट ओपएआई और एंथ्रोपिक जैसे प्रतिस्पर्धियों में निवेश करता है, वह अपनी स्वयं की क्लाउड सेवाओं को आवश्यक स्वतंत्र निगरानी परत के रूप में स्थापित करता है।
techcrunch