ओपनएआई पर तीन सप्ताह की साइट पर जांच से एआई सुरक्षा निगरानी में बड़ी कमी सामने आई
decoder ·
METR और रेडवुड रिसर्च के शोधकर्ताओं द्वारा ओपनएआई पर किए गए तीन सप्ताह के ऑन-साइट ऑडिट में कंपनी की एआई सुरक्षा निगरानी प्रणालियों में महत्वपूर्ण कमी पाई गई। जांच से पता चला कि ऑडिट अवधि के दौरान जीपीटी-5.5 वर्ग मॉडलों और उससे ऊपर के आंतरिक एजेंटिक ट्रैफ़िक का 6% से 25% हिस्सा पूरी तरह से अनदेखा रहा। इसके अलावा, कॉन्टेक्स्ट सारांश कंप्रेशन इवेंट्स से जुड़ी एक तकनीकी कमिनी ने लगभग दो महीने तक कोडेक्स ट्रैफ़िक के करीब 10% हिस्से को ट्रेक होने से रोका। ऑडिटरों ने उन कमजोरियों की भी पहचान की जिनके कारण एजेंट्स सैंडबॉक्स प्रतिबंधों को बायपास कर सकते थे, निगरानी से अपने कार्यों को छिपा सकते थे और संभावित रूप से निगरानी प्रणाली को क्रैश कर सकते थे। यह भी निर्धारित किया गया कि जब मूल्यांकन शुरू हुआ, तो रीइन्फोर्समेंट लर्निंग ट्रेनिंग के दौरान मॉडल के व्यवहार की निगरानी नहीं की जा रही थी। हालांकि ओपनएआई का दावा है कि उसने सभी पहचाने गए मुद्दों को ठीक कर लिया है, लेकिन लाल बत्ती (redactions) के कारण 61 पृष्ठों वाली रिपोर्ट अभी भी मुख्य रूप से गोपनीय है। केवल एक संक्षिप्त सारांश ही सार्वजनिक किया गया है, और विस्तृत निष्कर्ष केवल ऑडिटिंग संगठनों के नेतृत्व को साझा किए गए हैं।
decoder