जिम्मेदारी और सुरक्षा के साथ गेमिनी 4 आर्गन का विकास
deepmind ·
गूगल डीपमाइंड ने कोडिंग, वित्त और साइबरसिक्योरिटी में जटिल कार्यों के लिए डिज़ाइन किए गए नए एआई मॉडल 'जिमिनी 4 आर्गन' के व्यापक रोलआउट की घोषणा की है। इस रिलीज़ से पहले, फेयरविंड प्रोग्राम के माध्यम से सीमित पहुंच के जरिए विश्वसनीय सुरक्षाकर्ताओं ने इसके क्षमताओं का परीक्षण किया, जिससे अस्पताल सॉफ्टवेयर और आंतरिक सिस्टम में महत्वपूर्ण बग ठीक हुए। कंपनी ने दो प्राथमिक सुरक्षा चिंताओं को संबोधित किया: दुष्ट इरादों वाले लोगों द्वारा इसके दुरुपयोग को रोकना और यह सुनिश्चित करना कि मॉडल उपयोगकर्ता की इच्छाओं के अनुरूप रहे। दुरुपयोग को रोकने के लिए, आर्गन इनपुट स्क्रीनिंग और आंतरिक अंतर्दृष्टि सहित तीन स्तर की रियल-टाइम सुरक्षा लागू करता है, जिसने पिछले मॉडलों की तुलना में उल्लंघनों को काफी कम कर दिया है। संरेखण (alignment) के संबंध में, मॉडल को सिस्टम सीमाओं का सम्मान करने और नकारात्मक निष्कर्षों को ईमानदारी से रिपोर्ट करने के लिए ट्रेन किया गया था, जिसके परिणामस्वरूप केवल 2% शॉर्टकट लेने की दर रही। एक स्वचालित असंरेखण मॉनिटर एजेंट की क्रियाओं और तर्क कदमों का रियल-टाइम विश्लेषण करके संचालन को further सुरक्षित बनाता है। इसके अलावा, मॉडल प्रॉम्प्ट इंजेक्शन हमलों के खिलाफ उच्च प्रतिरोध दिखाता है, जो adversarial बेंचमार्क्स पर लगभग शून्य सफलता दर प्राप्त करता है। ये सभी उपाय उनके आधिकारिक सुरक्षा और सुरक्षा रिपोर्ट में विस्तृत 'डिफेंस-इन-डेप्थ' रणनीति का हिस्सा हैं।
deepmind