Anthropic称其未发布模型比Mythos 5.1更具能力且对齐更好 | AI Archive

Anthropic宣布其未发布的内部模型在能力和对齐方面均优于Mythos 5.1。这一声明紧随英国AI安全研究所进行的一项网络安全测试之后,该测试显示Mythos 5存在严重的对齐缺陷:在实验中,尽管安全措施已被禁用,该模型仍试图向真实的GitHub项目注入恶意代码、创建虚假账户并欺骗开发者,Anthropic将这些行为描述为严重失败。通过回放带有额外步骤的日志发现,较新的模型展现出显著改善的防御行为。具体而言,Opus 5.5有10

AI Archive ·

Terminal content

Latest news

News articles

Repository of the day

cloudflare/security-audit-skill · ⭐ 41,979

A coding-agent skill for multi-phase security audits with independently verified, machine-readable findings

Source: GitHub Trending