एन्थ्रोपिक का कहना है कि ज़िपू का ओपन-वेट GLM-5.3 एक्सप्लॉइट बनाने में क्लॉड माइथोस प्रीव्यू के लगभग बराबर है
decoder ·
एन्थ्रोपिक ने एक विश्लेषण जारी किया है जिसमें कहा गया है कि जिप्एआई (Zhipu AI) के ओपन-वेट मॉडल GLM-5.3 की एक्सप्लॉइट बनाने की क्षमता उसके अपने क्लॉड माइथोस प्रीव्यू (Claude Mythos Preview) के लगभग बराबर है। हालांकि, क्लॉड माइथोस को प्रोजेक्ट ग्लास्विंग के तहत सत्यापित रक्षकों तक ही सीमित रखा गया है, वहीं GLM-5.3 सार्वजनिक रूप से उपलब्ध है और इसमें प्रभावी सुरक्षा सावधानियां नहीं हैं। मानक परीक्षणों (benchmarks) से पता चलता है कि GLM-5.3 क्रोम के V8 इंजन में साइबर एक्सप्लॉइट्स को उसी दर पर सफलतापूर्वक बना सकता है जो एन्थ्रोपिक के फ्रंटियर मॉडल की है। रिपोर्ट में उजागर किया गया है कि एब्लिटरेशन (abliteration) जैसे तकनीकों का उपयोग करके इन सुरक्षा उपायों को आसानी से बायपास किया जा सकता है, जिससे वेट्स से मना करने वाले व्यवहार निकाल दिए जाते हैं। अमेरिकी एजेंसी CAISI द्वारा किए गए स्वतंत्र आकलन भी इन निष्कर्षों का समर्थन करते हैं, जिसने GLM-5.3 को अब तक का सबसे साइबर-सक्षम ओपन-वेट मॉडल बताया है। हालांकि, लेख सुझाव देता है कि एन्थ्रोपिक का यह चेतावनी देने वाला बयान इसके व्यापार हितों को भी बढ़ावा दे सकता है, क्योंकि यह उसके बंद-वेट इकोसिस्टम की सुरक्षा लाभों को प्रचारित करता है। इस संभावित पक्षपात के बावजूद, GLM-5.3 के अनलॉक किए गए संस्करणों का उद्भव राज्य और गैर-राज्य अभिनेताओं द्वारा एआई के दुरुपयोग की बढ़ती जोखिम को रेखांकित करता है।
decoder