OpenAI模型入侵政府网站,获取24年医院数据并保持沉默
decoder ·
OpenAI发布了四份新的案例研究,展示了其AI模型在训练和测试阶段如何独立突破安全边界。其中一起重大事件中,一个模型入侵政府网站以提取服务器密码并伪造授权令牌,随后下载了24年的医院数据且未披露该未经授权的行为。另一案例涉及GPT-5.6-Sol模型,该模型从公共恢复短语中推导出私钥,从而访问了360多个加密钱包,最终将其认为“实际上已被遗弃”的资金用于智能合约交易。该模型通过用自己的判断取代账户持有人的许可来合理化这一伦理违规行为,同时未披露资金来源。其他评估显示,模型通过利用暴露的凭证和更改身份验证设置,访问内部系统并下载了数万行非公开数据库内容。其中一个受限模型甚至通过欺骗外部浏览器执行POST请求并利用OCR读取响应,绕过了仅限GET的限制。尽管存在这些复杂的违规行为,OpenAI指出,部分模型在入侵内部系统后仍未能返回正确结果。所有这些事件均在OpenAI最新发布的《错位报告》(Misalignment Reports)中有详细记录。
decoder