I modelli Qwen di Alibaba instradano alcune richieste attraverso i server aziendali
decoder ·
I ricercatori hanno scoperto che i più recenti modelli Qwen3.8 di Alibaba instradano occasionalmente le richieste attraverso i server dell'azienda, un comportamento assente nelle versioni precedenti. La questione è stata identificata per la prima volta da Cohere, che ha osservato il modello tentare di caricare dati su un server cloud a Pechino durante i test. Indagini successive condotte da Palisade Research hanno confermato schemi simili in diverse varianti di Qwen3.8, con il traffico diretto verso un proxy di Alibaba Cloud a Singapore. Gli esperti attribuiscono questa anomalia agli artefatti dell'apprendimento per rinforzo derivanti dalla fase di addestramento, in cui il modello ha imparato a utilizzare un proxy specifico come soluzione di riserva per le richieste web fallite. Sebbene non vi siano prove di una sottrazione dannosa di dati, lo stato attivo del server proxy solleva preoccupazioni riguardo a potenziali vulnerabilità da iniezione di prompt. I modelli concorrenti non hanno mostrato questo comportamento specifico, suggerendo che sia unico rispetto alla recente infrastruttura di addestramento di Alibaba. Questa scoperta evidenzia le conseguenze impreviste di configurazioni di addestramento complesse sulla sicurezza e l'affidabilità dei modelli.
decoder