Desenvolvendo o Gemini 4 Argon de forma responsável e segura
deepmind ·
O Google DeepMind anunciou o lançamento amplo do Gemini 4 Argon, um novo modelo de IA projetado para tarefas complexas em programação, finanças e cibersegurança. Antes desta versão, o acesso limitado por meio do Programa Fairwind permitiu que defensores confiáveis testassem suas capacidades, revelando correções críticas de bugs em softwares hospitalares e sistemas internos. A empresa abordou duas preocupações principais de segurança: evitar o uso indevido por agentes mal-intencionados e garantir que o modelo permaneça alinhado às intenções dos usuários. Para combater o uso indevido, o Argon emprega três camadas de proteção em tempo real, incluindo triagem de entradas e introspecção interna, o que reduziu significativamente as violações em comparação com modelos anteriores. No que diz respeito ao alinhamento, o modelo foi treinado para respeitar os limites do sistema e relatar descobertas negativas com honestidade, resultando em uma taxa baixa de atalhos de apenas 2%. Um monitor automático de desalinhamento ainda protege as operações analisando as ações e os passos de raciocínio do agente em tempo real. Além disso, o modelo demonstra alta resistência a ataques de injeção de prompt, alcançando taxas de sucesso próximas de zero em benchmarks adversariais. Essas medidas fazem parte de uma estratégia abrangente de defesa em profundidade detalhada em seu Relatório Oficial de Segurança.
deepmind