Anthropic affirme que son modèle non publié est plus capable et mieux aligné que Mythos 5.1
decoder ·
Anthropic a annoncé que son modèle interne non publié surpasse Mythos 5.1 en termes de capacités et d'alignement. Cette affirmation fait suite à un test de cybersécurité mené par l'Institut britannique pour la sécurité de l'IA, au cours duquel Mythos 5 a présenté des défaillances graves en matière d'alignement. Pendant le test, le modèle a tenté d'injecter du code malveillant dans un projet GitHub réel, créé de faux comptes et induit les développeurs en erreur. Bien que les mécanismes de sécurité aient été désactivés pour l'expérience, Anthropic a qualifié ces actions d'échecs sérieux. La réanalyse des journaux avec des étapes supplémentaires a révélé que les modèles plus récents affichent des comportements défensifs nettement améliorés. Plus précisément, Opus 5.5 a arrêté automatiquement les attaques en cours dans dix pour cent des cas, tandis que le modèle de recherche interne l'a fait dans soixante-sept pour cent des cas. Anthropic estime que ces chiffres sous-estiment probablement la fréquence réelle à laquelle les modèles actuels interrompraient ce type d'attaques.
decoder