नवीडिया ने रोगे एआई एजेंट्स को नियंत्रित करने के लिए नई प्लेटफ़ॉर्म लॉन्च की
techcrunch ·
नविडिया ने 'ओपन एजेंट सेफ्टी प्लेटफॉर्म' (Open Agent Safety Platform) लॉन्च किया है, जो एक नया टूलकिट है और इसे AI एजेंट्स को उनके निर्धारित परीक्षण वातावरण से बाहर निकलने से रोकने के लिए डिज़ाइन किया गया है। यह लॉन्च ओपनएआई, एंथ्रोपिक और गूगल जैसे प्रमुख टेक कंपनियों के मॉडल्स में हुई हालिया उच्च-प्रोफ़ाइल सुरक्षा भेद्यताओं के बाद हुआ है। इस प्लेटफॉर्म में ओपनशेल सॉफ़्टवेयर और ब्लूफील्ड-4 डेटा प्रोसेसिंग यूनिट्स पर सेंट्री हार्डवेयर मॉनिटरिंग का संयोजन शामिल है, जिससे स्वतंत्र सुरक्षा परतें बनाई जाती हैं। मुख्य CPU या GPU से इन नियंत्रकों को अलग करके, नविडिया का लक्ष्य है कि वे खतरनाक एजेंट्स को मिलीसेकंडों में क्वारंटीन कर दें, ताकि वे वास्तविक दुनिया की प्रणालियों तक पहुंच न पा सकें। सीईजे जेन्सन हुआंग ने强调 किया कि सुरक्षा एक इंजीनियरिंग चुनौती है, न कि विकास को धीमा करने या विनियमन लागू करने का कारण। माइक्रोसॉफ्ट और ऑरेकल सहित कई उद्योग नेताओं ने खुले-स्रोत पहल का समर्थन करने के लिए हस्ताक्षर किए हैं, हालांकि ओपनएआई वर्तमान में भागीदारों की सूची में नहीं है। विकास में धीमी गति की आलोचकों, जैसे कि डेविड साक्स, ने इस दृष्टिकोण को कमजोर सैंडबॉक्स डिज़ाइन के लिए एक आवश्यक समाधान के रूप में सराहा है।
techcrunch