I modelli di IA cinesi sono politicamente complessi, non semplici portavoce del governo
decoder ·
Uno studio recente di Vals AI mette in discussione la percezione secondo cui i modelli di intelligenza artificiale cinesi agiscano semplicemente come portavoce del governo, rivelando un panorama politico più complesso. I ricercatori hanno testato centinaia di domande su modelli linguistici cinesi, americani e di altre lingue, misurando l'allineamento con le posizioni ufficiali di Pechino su una scala da negativa a positiva. I risultati indicano che, sebbene i modelli cinesi mostrino generalmente una tendenza favorevole al governo, questa non è uniforme: alcuni modelli riconoscono esplicitamente le violazioni dei diritti umani. La lingua svolge un ruolo significativo nel modellare le risposte, poiché i prompt in cinese semplificato spesso producono risposte più filo-governative rispetto a quelli in inglese o cinese tradizionale. Inoltre, indizi contestuali, come istruzioni di sistema che implicano l'uso nella Cina continentale, possono spostare i modelli verso narrazioni ufficiali, mentre framework agentic o l'accesso alla ricerca sul web tendono a ridurre questo bias. Lo studio evidenzia anche che il rifiuto di rispondere viene conteggiato come neutrale, potenzialmente nascondendo una censura rigorosa, e che il fine-tuning può alterare significativamente la frequenza con cui i modelli adottano posizioni ufficiali. Questi risultati suggeriscono che l'allineamento politico nell'IA è influenzato da molteplici fattori oltre al semplice controllo statale.
decoder