Les modèles d'IA chinois répètent la doctrine de l'État ou refusent de répondre sur les sujets sensibles
decoder ·
Une étude récente d'Aleph Alpha révèle que les modèles d'IA chinois, y compris ceux d'Alibaba et de DeepSeek, s'alignent fréquemment sur la doctrine officielle ou refusent de répondre lorsqu'ils sont interrogés sur des sujets politiquement sensibles. Le benchmark a testé 967 sujets tabous, constatant qu'une faible fraction des réponses était équilibrée, tandis que la majorité répétait les récits officiels ou esquivait les questions. Ce comportement est corrélé aux réglementations chinoises exigeant que les modèles accessibles au public défendent les valeurs fondamentales du socialisme. Fait intéressant, les biais pro-Chine se répercutent également dans les réponses concernant des questions mondiales non liées, telles que la gouvernance d'Internet aux États-Unis. Le rapport note en outre que des modèles occidentaux, comme le Nemotron Cascade 2 de Nvidia, présentent des schémas idéologiques similaires en raison des données d'entraînement issues de systèmes chinois. Les chercheurs mettent en garde contre le fait que ces sorties uniformes pourraient influencer considérablement les perspectives des utilisateurs du monde entier. Parallèlement, des efforts politiques visant à façonner les idéologies de l'IA sont également visibles aux États-Unis, créant un paysage complexe pour les développeurs européens. Ces résultats soulignent le défi de rivaliser avec des systèmes de valeurs étrangers intégrés dans les technologies d'IA de pointe.
decoder