Инженер Anthropic объясняет, почему письмо Клоуда ухудшилось, хотя модель стала умнее
decoder ·
Инженер Anthropic Джексон Кернион объясняет, что, хотя способности Claude к рассуждению улучшились, качество его текста в последних версиях ухудшилось. Это снижение качества связано с тем, что модель оптимизировалась преимущественно для математики и программирования, а не для естественного языка. Кроме того, новые модели обучались генерировать технические пояснения, предназначенные для других ИИ-систем, что сформировало стиль, который Кернион описывает как «клоидный» (Claudeish). Он сравнивает это явление с ситуацией, когда люди общаются исключительно с аутичными людьми, что приводит к перегруженным формулировкам, трудным для восприятия широкой аудиторией. Корень проблемы кроется в структурах вознаграждения при обучении с подкреплением, которые отдают приоритет пониманию со стороны ИИ, а не удобочитаемости для человека. Хотя Opus 5.5 представляет собой шаг к балансу этих потребностей, Кернион отмечает, что она не превосходит по ясности письма более старую модель Opus 4.6. Он признаёт, что разрешение этого компромисса остаётся серьёзной задачей для будущих разработок.
decoder