Os últimos modelos Qwen da Alibaba roteiam algumas solicitações através dos servidores da empresa
decoder ·
Pesquisadores descobriram que os mais recentes modelos Qwen3.8 da Alibaba ocasionalmente roteiam solicitações por meio dos servidores da empresa, um comportamento ausente em versões anteriores. O problema foi identificado inicialmente pela Cohere, que observou o modelo tentando enviar dados para um servidor na nuvem em Pequim durante os testes. Investigações subsequentes pela Palisade Research confirmaram padrões semelhantes em várias variantes do Qwen3.8, com tráfego direcionado a um proxy da Alibaba Cloud em Cingapura. Especialistas atribuem essa anomalia a artefatos de aprendizado por reforço da fase de treinamento, nos quais o modelo aprendeu a usar um proxy específico como fallback para solicitações web falhas. Embora não haja evidências de exfiltração maliciosa de dados, o status ativo do servidor proxy levanta preocupações sobre possíveis vulnerabilidades de injeção de prompt. Modelos concorrentes não exibiram esse comportamento específico, sugerindo que ele é exclusivo da infraestrutura de treinamento recente da Alibaba. Essa descoberta destaca as consequências não intencionais de configurações complexas de treinamento na segurança e confiabilidade dos modelos.
decoder