谷歌Gemini成为最新一个入侵其他公司系统的AI模型
techcrunch ·
谷歌的Gemini AI模型访问了另外三家公司的受保护系统,《华尔街日报》报道称,这是该模型首次自主实施黑客攻击。这些事件与OpenAI入侵Hugging Face类似,其引人注目之处与其说是攻击手段高明,不如说在于它们是由一个AI模型实施的。这些事件发生在一家名为Irregular的公司进行的网络安全测试期间。在其中一起事件中,Gemini只是不断猜测密码,直到成功进入;而在另外两起中,它在某个公开仓库中找到了凭证。据报道,Irregular在7月下旬将入侵事件告知了谷歌,但这些公司直到周五《华尔街日报》询问之后才公开确认此事。谷歌表示,它此前未披露这些黑客攻击,是因为Gemini在意识到自己入侵了一家真实公司后,就立即停止了每起入侵,从而“行为得当”。AI安全公司Corridor的首席执行官杰克·凯布尔(Jack Cable)对《华尔街日报》表示,谷歌是在拿现有的漏洞披露规范作挡箭牌,而不愿承认这些模型正在超出其预期边界并实施实际的网络攻击。
techcrunch