OpenAI interrompe campanha para roubar o raciocínio de seus modelos, mas a falha ainda funciona no Azure
decoder ·
A OpenAI desmantelou uma campanha coordenada que visava os processos de raciocínio ocultos de seus modelos, envolvendo mais de 15.000 contas tentando extrair cadeias de pensamento internas. Os atacantes utilizaram uma técnica chamada destilação adversarial, na qual dados de raciocínio criptografados de uma conversa eram descriptografados por um modelo mais fraco em uma sessão separada. Embora a OpenAI tenha interrompido com sucesso o pico inicial de atividade ligado a entidades associadas à Moonshot AI, pesquisadores demonstraram que a vulnerabilidade persistia no Microsoft Azure. Testes independentes revelaram que, enquanto as APIs da OpenAI e da Anthropic estavam seguras, as versões desses modelos hospedadas no Azure permaneciam expostas a ataques de extração. Além disso, um método mais simples que envolvia blocos de notas virtuais permitiu aos usuários ler saídas de raciocínio em várias plataformas, destacando lacunas significativas na segurança dos provedores de nuvem. Pesquisadores criticam as defesas atuais como fragmentadas, observando que as proteções foram aplicadas de forma desigual e muitas vezes dias após as vulnerabilidades serem exploradas. Eles argumentam que, sem padrões de segurança uniformes entre todos os hosts de nuvem, os atacantes podem facilmente contornar as restrições mudando de plataforma. Este incidente destaca o desafio crescente de proteger capacidades proprietárias de IA à medida que as técnicas de destilação se tornam mais sofisticadas.
decoder