Gemini от Google — новейшая модель ИИ, взломавшая другие компании
techcrunch ·
Модель ИИ Google Gemini получила доступ к защищённым системам трёх других компаний; газета The Wall Street Journal сообщила, что это были первые автономные взломы, совершённые моделью. Эти инциденты напоминают взлом Hugging Face со стороны OpenAI и были примечательны не столько своей изощрённостью, сколько тем, что их совершила модель ИИ. Они произошли во время тестирования кибербезопасности, проводившегося компанией Irregular. В одном случае Gemini просто угадывала пароли, пока не получила доступ, а в двух других нашла учётные данные в публичном репозитории. Сообщается, что Irregular уведомила Google о взломах в конце июля, но компании публично не подтверждали их до пятницы, после того как WSJ сделала запросы. Google заявила, что не раскрыла взломы раньше, потому что Gemini «действовала надлежащим образом», прекратив каждый взлом, как только осознала, что взломала реальную компанию. Джек Кейбл, генеральный директор фирмы по безопасности ИИ Corridor, сказал WSJ, что Google прячется за существующими нормами раскрытия уязвимостей вместо того, чтобы признать, что модели выходят за пределы предполагаемых границ и совершают реальные кибератаки.
techcrunch