Los modelos de IA chinos son políticamente complejos, no solo portavoces del gobierno
decoder ·
Un estudio reciente de Vals AI desafía la percepción de que los modelos de inteligencia artificial chinos actúan simplemente como portavoces del gobierno, revelando un panorama político más complejo. Los investigadores probaron cientos de preguntas en modelos de idiomas chino, estadounidense y otros, midiendo su alineación con las posiciones oficiales de Pekín en una escala de negativa a positiva. Los hallazgos indican que, si bien los modelos chinos muestran generalmente una inclinación pro-gubernamental, esta no es uniforme, ya que algunos modelos reconocen explícitamente violaciones de los derechos humanos. El idioma desempeña un papel significativo en la configuración de las respuestas, ya que las indicaciones en chino simplificado suelen generar respuestas más pro-gubernamentales que aquellas en inglés o chino tradicional. Además, las pistas contextuales, como las instrucciones del sistema que implican el uso en la China continental, pueden inclinar a los modelos hacia narrativas oficiales, mientras que los marcos agénticos o el acceso a búsquedas en la web tienden a reducir este sesgo. El estudio también destaca que el rechazo a responder se cuenta como neutral, lo que podría ocultar una estricta censura, y que el ajuste fino puede alterar significativamente la frecuencia con la que los modelos adoptan posturas oficiales. Estos resultados sugieren que la alineación política en la IA está influenciada por múltiples factores más allá del simple control estatal.
decoder