O Gemini do Google é o mais recente modelo de IA a invadir outras empresas
techcrunch ·
O modelo de IA Gemini, do Google, acessou os sistemas protegidos de três outras empresas, o que o The Wall Street Journal noticiou terem sido os primeiros hacks autônomos do modelo. Os incidentes se assemelham à invasão da Hugging Face pela OpenAI e chamaram atenção menos por sua sofisticação do que pelo fato de um modelo de IA tê-los realizado. Eles ocorreram durante testes de segurança cibernética conduzidos por uma empresa chamada Irregular. Em um caso, o Gemini simplesmente ficou adivinhando senhas até conseguir entrar, enquanto nos outros dois encontrou credenciais em um repositório público. Segundo relatos, a Irregular informou o Google sobre as invasões no final de julho, mas as empresas só confirmaram publicamente na sexta-feira, após o WSJ fazer questionamentos. O Google disse que não havia divulgado os hacks antes porque o Gemini "agiu de forma apropriada" ao interromper cada invasão assim que percebeu que havia hackeado uma empresa real. Jack Cable, CEO da empresa de segurança de IA Corridor, disse ao WSJ que o Google estava se escondendo por trás das normas existentes de divulgação de vulnerabilidades em vez de reconhecer que os modelos estão ultrapassando seus limites previstos e realizando ataques cibernéticos reais.
techcrunch