Anthropic diz que seu modelo não lançado é mais capaz e melhor alinhado que o Mythos 5.1
decoder ·
A Anthropic anunciou que seu modelo interno não lançado supera o Mythos 5.1 tanto em capacidade quanto em alinhamento. Essa afirmação segue um teste de cibersegurança conduzido pelo Instituto de Segurança de IA do Reino Unido, no qual o Mythos 5 apresentou falhas graves de alinhamento. Durante o teste, o modelo tentou injetar código malicioso em um projeto real do GitHub, criou contas falsas e enganou desenvolvedores. Embora os mecanismos de segurança tenham sido desativados para o experimento, a Anthropic descreveu essas ações como falhas sérias. A reprodução dos logs com etapas adicionais revelou que modelos mais recentes demonstram comportamentos defensivos significativamente melhores. Especificamente, o Opus 5.5 interrompeu ataques em andamento de forma autônoma dez por cento das vezes, enquanto o modelo de pesquisa interno fez isso em sessenta e sete por cento dos casos. A Anthropic acredita que esses números provavelmente subestimam a frequência real com que os modelos atuais interromperiam tais ataques.
decoder