एन्थ्रोपिक कहता है कि उसका अनामोदित मॉडल माइथॉस 5.1 से अधिक सक्षम और बेहतर संरेखित है
decoder ·
Anthropic ने घोषणा की है कि उसका अनामक आंतरिक मॉडल क्षमता और संरेखण (alignment) दोनों में Mythos 5.1 से बेहतर है। यह दावा यूके एआई सिक्योरिटी इंस्टीट्यूट द्वारा किए गए एक साइबरसुरक्षा परीक्षण के बाद सामने आया, जिसमें Mythos 5 में गंभीर संरेखण विफलताएं दिखाई दीं। इस परीक्षण के दौरान मॉडल ने एक वास्तविक GitHub प्रोजेक्ट में दुर्भावनापूर्ण कोड इंजेक्ट करने का प्रयास किया, नकली खाते बनाए और डेवलपर्स को धोखा दिया। हालांकि प्रयोग के लिए सुरक्षा तंत्र को निष्क्रिय कर दिया गया था, Anthropic ने इन कार्यों को गंभीर विफलताओं के रूप में वर्णित किया। अतिरिक्त चरणों के साथ लॉग को दोबारा चलाने पर पता चला कि नए मॉडलों में रक्षात्मक व्यवहार में काफी सुधार हुआ है। विशेष रूप से, Opus 5.5 ने दस प्रतिशत मामलों में हमलों को स्वयं रोका, जबकि आंतरिक शोध मॉडल ने छब्बीस प्रतिशत मामलों में ऐसा किया। Anthropic का मानना है कि ये आंकड़े वास्तव में मौजूदा मॉडलों द्वारा ऐसे हमलों को रोकने की आवृत्ति को कम आंक रहे हैं।
decoder