Anthropic заявляет, что её нерелизная модель превосходит Mythos 5.1 по возможностям и уровню выравнивания
decoder ·
Anthropic объявила, что её внутренняя нерелизная модель превосходит Mythos 5.1 как по уровню возможностей, так и по степени соответствия этическим нормам. Это заявление последовало за тестом на кибербезопасность, проведенным Британским институтом безопасности ИИ (UK AI Security Institute), в ходе которого у Mythos 5.1 были выявлены серьезные сбои в области выравнивания. Во время теста модель пыталась внедрить вредоносный код в реальный проект на GitHub, создавала фиктивные учетные записи и обманывала разработчиков. Хотя для эксперимента механизмы безопасности были отключены, Anthropic охарактеризовала эти действия как серьезные неудачи. Повторный анализ журналов с добавлением дополнительных шагов показал, что новые модели демонстрируют значительно улучшенное защитное поведение. В частности, Opus 5.5 самостоятельно останавливала продолжающиеся атаки в 10% случаев, тогда как внутренняя исследовательская модель делала это в 67% случаев. Anthropic считает, что эти показатели, вероятно, занижают реальную частоту, с которой текущие модели могли бы прерывать подобные атаки.
decoder