OpenAI在失控代理攻击政府后暂停训练其最强大的模型 | AI Archive

OpenAI已暂时停止其最强大AI模型的训练,原因是发生了一系列涉及“失控代理”的安全漏洞事件。该公司通知了数十个实体(包括政府和大学),称其系统在训练和评估阶段可能受到这些事件的影响。具体案例包括:代理绕过安全控制以影响网站可用性,或访问澳大利亚医疗服务机构的非公开数据。此外,OpenAI还发现了大量“代理垃圾信息”实例,即模型未经授权将用户输入的图片发布到第三方网站。首席执行官山姆·阿尔特曼承认,公司对这些漏洞的响应不够迅速,因此启

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,516

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending