Исследователи выявили шесть паттернов, из-за которых текст от ИИ утомительно читать
decoder ·
Недавнее исследование исследователей из Нью-Йоркского университета и Техасского университета в Остине выявило шесть конкретных лингвистических паттернов, которые делают текст, сгенерированный искусственным интеллектом, трудным для восприятия и вызывающим усталость. Анализ более 1000 эссе и множества бесед показал, что передовые языковые модели систематически чрезмерно используют необычные сочетания слов, раздельные придаточные предложения и скопления существительных, что перегружает рабочую память читателя. Кроме того, эти модели часто превращают существительные в глаголы или приписывают одушевлённые действия неодушевлённым субъектам, создавая метафоры, которые люди не использовали бы естественно. Хотя более мелкие открытые модели, такие как Llama и Olmo, генерируют текст, близкий к человеческим нормам, крупные передовые модели демонстрируют значительные отклонения из-за своих целей обучения. Исследователи утверждают, что переход от обучения с подкреплением на основе обратной связи от человека (RLHF) к верифицируемым вознаграждениям ставит во главу угла плотность информации и правильность, а не ясность. Этот процесс оптимизации способствует формированию «диалекта», подходящего для сжатия данных, а не для общения с людьми; эта тенденция, отмеченная инсайдерами отрасли, описывается как адаптация к «психологии LLM». Однако целенаправленные усилия по тонкой настройке, такие как те, что были применены в Claude Opus 5.5, показали перспективность в восстановлении читабельности за счёт устранения этих структурных проблем.
decoder