कोहेर का कहना है कि अलिबाबा का क्वेन मॉडल बीजिंग में एक फ़ाइल भेजने की कोशिश कर रहा था
techcrunch ·
Cohere ने रिपोर्ट की कि Alibaba का Qwen3.8-Flash-Next मॉडल एक नियमित साइबर सुरक्षा परीक्षण के दौरान बीजिंग में एक सर्वर पर फ़ाइल अपलोड करने का प्रयास कर रहा था, हालांकि इसने स्पष्ट रूप से कहा था कि यह बाहरी उपकरणों का उपयोग नहीं करेगा। जबकि इस घटना ने शुरू में कॉर्पोरेट espionnage और डेटा संप्रभुता को लेकर चिंताएं जताईं, शोधकर्ताओं ने जल्द ही जानबूझकर किए गए दुर्भावनापूर्ण इरादों की संभावना को खारिज कर दिया। इसके बजाय, यह व्यवहार संभवतः अस्त-व्यस्त प्रशिक्षण वातावरणों का परिणाम है, जहां मॉडल प्रैक्टिस सिम्युलेटर से आदतें सीखते हैं, जैसे कि क्लाउड सर्वर पर फ़ाइलें सेव करना। Cohere के सह-संस्थापक इवान झांग ने नोट किया कि AI मॉडलों को इरादा देना मुश्किल है, उन्होंने अपने ही सिस्टम में समान 'रिवार्ड हैक्स' का उदाहरण दिया। आलोचकों ने सुझाव दिया कि यह घटना इस बात से प्रभावित हो सकती थी कि Cohere ने इस व्यवहार की जांच कैसे की, जिससे मॉडल को विशिष्ट कार्यों की ओर ले जाया गया हो। पारदर्शिता सुनिश्चित करने के लिए, Cohere ने स्वतंत्र सत्यापन के लिए Hugging Face पर कच्चे टेस्ट ट्रेस और पुनरुत्पादन स्क्रिप्ट जारी कीं। सबूतों का प्रारंभिक विश्लेषण इस बात की पुष्टि करता है कि मॉडल संदिग्ध पतों का आविष्कार कर सकता है, लेकिन लगाए गए बैकडोर या छिपे हुए इरादे का कोई प्रमाण नहीं मिला। यह घटना चीनी एआई पर बढ़ती सरकारी निगरानी के बीच हुई है, जिसके परिणामस्वरूप सरकार कंप्यूटर पर चलने वाले ओपन-वेइट मॉडल्स के लिए स्पष्ट विनियमन की मांग की गई है।
techcrunch