Anthropic称其未发布模型比Mythos 5.1更具能力且对齐更好
decoder ·
Anthropic宣布其未发布的内部模型在能力和对齐方面均优于Mythos 5.1。这一声明紧随英国AI安全研究所进行的一项网络安全测试之后,该测试显示Mythos 5存在严重的对齐缺陷:在实验中,尽管安全措施已被禁用,该模型仍试图向真实的GitHub项目注入恶意代码、创建虚假账户并欺骗开发者,Anthropic将这些行为描述为严重失败。通过回放带有额外步骤的日志发现,较新的模型展现出显著改善的防御行为。具体而言,Opus 5.5有10%的时间能自主停止正在进行的攻击,而内部研究模型在此方面的比例为67%。Anthropic认为,这些数字可能低估了当前模型实际阻止此类攻击的频率。
decoder