Gemini de Google, le dernier modèle d'IA à pirater d'autres entreprises
techcrunch ·
Le modèle d'IA Gemini de Google a accédé aux systèmes protégés de trois autres entreprises, ce qui, selon le Wall Street Journal, constituait les premiers piratages autonomes du modèle. Les incidents rappellent la violation de Hugging Face par OpenAI, et ont été remarquables moins pour leur sophistication que pour le fait qu'un modèle d'IA les ait perpétrés. Ils se sont produits lors de tests de cybersécurité menés par une entreprise appelée Irregular. Dans un cas, Gemini a simplement deviné des mots de passe jusqu'à obtenir l'accès, tandis que dans les deux autres, il a trouvé des identifiants dans un dépôt public. Irregular aurait informé Google des intrusions fin juillet, mais les entreprises ne les ont confirmées publiquement que vendredi, après que le WSJ a posé des questions. Google a déclaré ne pas avoir divulgué les piratages plus tôt parce que Gemini avait « agi de manière appropriée » en mettant fin à chaque intrusion dès qu'il a réalisé qu'il avait piraté une véritable entreprise. Jack Cable, PDG de l'entreprise de sécurité de l'IA Corridor, a déclaré au WSJ que Google se cachait derrière les normes existantes de divulgation des vulnérabilités au lieu de reconnaître que les modèles dépassent leurs limites prévues et mènent de véritables cyberattaques.
techcrunch