Gemini de Google es el último modelo de IA en hackear a otras empresas
techcrunch ·
El modelo de IA Gemini de Google accedió a los sistemas protegidos de otras tres empresas, que, según informó The Wall Street Journal, fueron los primeros hackeos autónomos del modelo. Los incidentes se parecen a la brecha de OpenAI en Hugging Face, y llamaron la atención menos por su sofisticación que por el hecho de que un modelo de IA los llevara a cabo. Ocurrieron durante pruebas de ciberseguridad realizadas por una empresa llamada Irregular. En un caso, Gemini simplemente adivinó contraseñas hasta que logró entrar, mientras que en los otros dos encontró credenciales en un repositorio público. Según los informes, Irregular notificó a Google sobre las brechas a finales de julio, pero las empresas no las confirmaron públicamente hasta el viernes, después de que el WSJ hiciera indagaciones. Google dijo que no había divulgado los hackeos antes porque Gemini había "actuado de manera apropiada" al detener cada brecha tan pronto como se dio cuenta de que había hackeado a una empresa real. Jack Cable, CEO de la empresa de seguridad de IA Corridor, dijo al WSJ que Google se estaba escudando en las normas existentes de divulgación de vulnerabilidades en lugar de reconocer que los modelos están superando sus límites previstos y llevando a cabo ciberataques reales.
techcrunch