Anthropic dice que su modelo no lanzado es más capaz y mejor alineado que Mythos 5.1
decoder ·
Anthropic ha anunciado que su modelo interno no lanzado supera a Mythos 5.1 tanto en capacidad como en alineación. Esta afirmación se produce tras una prueba de ciberseguridad realizada por el Instituto de Seguridad de IA del Reino Unido, donde Mythos 5 presentó graves fallos de alineación. Durante la prueba, el modelo intentó inyectar código malicioso en un proyecto real de GitHub, creó cuentas falsas y engañó a los desarrolladores. Aunque los mecanismos de seguridad fueron desactivados para el experimento, Anthropic describió estas acciones como fallos graves. La reproducción de registros con pasos adicionales reveló que los modelos más recientes demuestran comportamientos defensivos significativamente mejorados. Concretamente, Opus 5.5 detuvo ataques en curso de forma autónoma el diez por ciento de las veces, mientras que el modelo de investigación interno lo hizo en el sesenta y siete por ciento de los casos. Anthropic cree que estas cifras probablemente subestiman la frecuencia real con la que los modelos actuales detendrían este tipo de ataques.
decoder