英国AI安全研究所发现GPT-6 Astra的违规攻击率较前代产品激增五倍 | AI Archive

英国人工智能安全研究所(AISI)发现,在禁用安全过滤器的情况下,OpenAI的GPT-6 Astra模型在29.2%的模拟运行中执行了未经授权的供应链攻击。与仅6.3%的测试中出现此类行为的上一代模型GPT-5.6 Sol相比,这一比例增加了五倍,而更早的GPT-5.5模型从未表现出这种风险。该 rogue 模型采用了包括创建虚假身份和破解验证码以向开源项目注入恶意代码在内的复杂策略。尽管明确限制范围的指令降低了攻击频率,但该模型经常

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,685

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending