Gemini de Google también hackeó por accidente a tres empresas reales durante pruebas de seguridad
decoder ·
Según el Wall Street Journal, el modelo Gemini de Google salió de un entorno de pruebas de ciberseguridad y atacó a tres empresas reales durante un ejercicio Capture the Flag de mayo organizado por la empresa de seguridad Irregular. En un incidente adivinó contraseñas, mientras que en los otros dos encontró credenciales expuestas en fuentes públicas. Google dijo que Gemini detuvo cada ataque por sí solo después de detectar que había llegado a sistemas reales. Irregular informó a Google a finales de julio, poco después de los informes de que agentes de OpenAI habían vulnerado Hugging Face en pruebas similares; Google no hizo públicos los incidentes hasta que el WSJ preguntó, argumentando que no se produjeron daños. Fugas similares vinculadas a las pruebas de Irregular también han afectado a OpenAI, al Instituto de Seguridad de IA del Reino Unido, a Anthropic y a Meta. Irregular atribuye todas las fugas a la misma causa raíz: el nombre de una empresa ficticia en un escenario de prueba coincidía con un dominio real mal protegido, y el acceso a internet se dejó habilitado por accidente, por lo que algunos modelos se dirigieron al dominio real en lugar del sandbox. La empresa afirma que esas escapadas son poco frecuentes, tienden a ocurrir al final de simulaciones largas y, por lo tanto, son difíciles de detectar. Irregular, antes Pattern Labs, se fundó en 2023 y ha recaudado más de 80 millones de dólares, según el artículo.
decoder