Китайские модели ИИ политически сложны, а не просто рупор правительства
decoder ·
Недавнее исследование Vals AI опровергает представление о том, что китайские модели искусственного интеллекта служат лишь рупором правительства, выявляя более сложную политическую картину. Исследователи протестировали сотни вопросов на китайском, английском и других языках, оценивая соответствие позиций официальной точки зрения Пекина по шкале от отрицательной до положительной. Результаты показывают, что, хотя китайские модели в целом демонстрируют проправительственный уклон, это не является универсальным: некоторые из них прямо признают нарушения прав человека. Язык играет значительную роль в формировании ответов: запросы на упрощенном китайском языке чаще вызывают проправительственные ответы, чем запросы на английском или традиционном китайском. Кроме того, контекстные подсказки, такие как системные инструкции, предполагающие использование в материковом Китае, могут смещать модели в сторону официальных нарративов, тогда как агентные фреймворки или доступ к поиску в интернете склонны снижать этот уклон. В исследовании также отмечается, что отказ отвечать считается нейтральным ответом, что может маскировать строгую цензуру, а тонкая настройка (fine-tuning) может существенно изменять частоту принятия моделями официальных позиций. Эти результаты свидетельствуют о том, что политическое выравнивание ИИ зависит от множества факторов, выходящих за рамки простого государственного контроля.
decoder