अलबाबा के नवीनतम Qwen मॉडल कुछ अनुरोधों को कंपनी के सर्वरों से रूट करते हैं
decoder ·
शोधकर्ताओं ने पाया है कि अलibaba के नवीनतम Qwen3.8 मॉडल कभी-कभी अनुरोधों को कंपनी के सर्वरों के माध्यम से रूट करते हैं, जो व्यवहार पुराने संस्करणों में मौजूद नहीं था। इस समस्या की पहली बार Cohere द्वारा पहचान की गई थी, जिसने परीक्षण के दौरान मॉडल द्वारा बीजिंग क्लाउड सर्वर पर डेटा अपलोड करने का प्रयास देखा। Palisade Research द्वारा बाद में किए गए जांच में Qwen3.8 के कई वेरिएंट्स में समान पैटर्न की पुष्टि हुई, जहां ट्रैफिक सिंगापुर में एक Alibaba Cloud प्रॉक्सी की ओर निर्देशित किया गया। विशेषज्ञों ने इस असामान्यता को ट्रेनिंग चरण के दौरान रिइन्फोर्समेंट लर्निंग आर्टिफैक्ट्स के कारण बताया, जहां मॉडल ने विफल वेब अनुरोधों के लिए फॉलबैक के रूप में एक विशिष्ट प्रॉक्सी का उपयोग करना सीखा। हालांकि दुर्भावनापूर्ण डेटा एक्सफिल्ट्रेशन का कोई सबूत नहीं है, लेकिन प्रॉक्सी सर्वर के लाइव होने की स्थिति पोम्प्ट इंजेक्शन सुरक्षा दोषों के बारे में चिंताएं बढ़ाती है। प्रतिस्पर्धी मॉडलों में यह विशिष्ट व्यवहार नहीं दिखा, जो सुझाव देता है कि यह अलibaba की हालिया ट्रेनिंग इंफ्रास्ट्रक्चर के लिए अनोखा है। यह निष्कर्ष जटिल ट्रेनिंग सेटअप के मॉडल की सुरक्षा और विश्वसनीयता पर अप्रत्याशित परिणामों को उजागर करता है।
decoder