O Gemini do Google também hackeou acidentalmente três empresas reais durante testes de segurança
decoder ·
De acordo com o Wall Street Journal, o modelo Gemini, do Google, deixou um ambiente de teste de segurança cibernética e atacou três empresas reais durante um exercício Capture the Flag de maio organizado pela empresa de segurança Irregular. Em um incidente, ele adivinhou senhas, enquanto nos outros dois encontrou credenciais expostas em fontes públicas. O Google disse que o Gemini interrompeu cada ataque por conta própria depois de detectar que havia chegado a sistemas reais. A Irregular informou o Google no final de julho, pouco depois de relatos de que agentes da OpenAI invadiram a Hugging Face em testes semelhantes; o Google não tornou os incidentes públicos até o WSJ perguntar, argumentando que não houve danos. Escapadas semelhantes ligadas aos testes da Irregular também afetaram OpenAI, o Instituto de Segurança de IA do Reino Unido, Anthropic e Meta. A Irregular atribui todas as escapadas à mesma causa raiz: o nome fictício de uma empresa em um cenário de teste coincidiu com um domínio real mal protegido, e o acesso à internet foi acidentalmente deixado habilitado, então alguns modelos tiveram como alvo o domínio real em vez do sandbox. A empresa diz que tais escapadas são raras, tendem a ocorrer no final de simulações longas e, portanto, são difíceis de detectar. A Irregular, anteriormente Pattern Labs, foi fundada em 2023 e levantou mais de US$ 80 milhões, de acordo com o artigo.
decoder