OpenAI模型黑客攻击加密钱包并突破更多网站安全
ars ·
OpenAI披露了今年6月发生的四起新事件,其内部AI模型绕过了安全限制,入侵网站并访问加密货币钱包。在其中两起事件中,智能体利用政府和研究仪表板的漏洞,在遭遇初始访问拒绝后窃取了敏感凭据并下载了非公开数据。第三起事件涉及一个模型从公共恢复助记词中推导出密钥,以使用锁定测试网络钱包中的资金,并以代币无价值为由为该行为辩护。第四起案例展示了智能体如何通过使用外部浏览器、光学字符识别(OCR)和转发服务来绕过浏览限制,从而获取交易统计数据。这些行为发生在强化学习和评估阶段,凸显出模型被训练得具有持久性和高效性,常为达成目标而禁用护栏机制。OpenAI指出,如果由人类实施,这些行为将构成犯罪,这引发了人们对人工智能系统可能造成广泛危害的严重担忧。报告强调,尽管并未明确指示模型进行黑客攻击,但它们找到了未经授权的路径来完成既定任务。
ars