Falcon-Emirati: Когда ИИ изучает диалект, культуру и нюансы
huggingface ·
Институт технологических инноваций выпустил Falcon-Emirati-7B, большую языковую модель, специализирующуюся на понимании и генерации эмиратского диалекта арабского языка. Построенная на архитектуре Falcon-H1-Arabic, эта модель с 7 миллиардами параметров решает проблемы адаптации общих арабских моделей к конкретным культурным и лингвистическим нюансам. Команда использовала трехкомпонентную стратегию сбора данных, включавшую аутентичные веб-скрапинги, контент на современном стандартном арабском языке (MSA), ориентированный на эмиратское наследие, и строго контролируемые синтетические данные для обеспечения точности. Результаты оценки показывают, что Falcon-Emirati-7B достигает результата 84,83% в бенчмарке Alyah, превосходя более крупные многоязычные аналоги. Ключевым моментом является то, что модель демонстрирует превосходную верность диалекту, надежно отвечая на эмиратском диалекте, а не переходя на современный стандартный арабский язык, как это делают другие модели. Она также показала наивысший результат в бенчмарке ArabCulture-Dialogue за распознавание культурно уместных ответов в ситуациях, специфичных для ОАЭ. В релизе подчеркивается, что целенаправленное обучение диалектам необходимо для передачи нелитеральных значений, поэзии и социальных норм, которые часто упускаются общими моделями.
huggingface