Modelos de IA chineses são politicamente complexos, não apenas porta-vozes do governo
decoder ·
Um estudo recente da Vals AI desafia a percepção de que os modelos de inteligência artificial chineses atuam simplesmente como porta-vozes do governo, revelando um cenário político mais complexo. Os pesquisadores testaram centenas de perguntas em modelos de idiomas chinês, americano e outros, medindo o alinhamento com as posições oficiais de Pequim em uma escala de negativa a positiva. As descobertas indicam que, embora os modelos chineses geralmente apresentem uma inclinação pró-governo, isso não é uniforme, com alguns modelos reconhecendo explicitamente violações dos direitos humanos. O idioma desempenha um papel significativo na formação das respostas, pois prompts em chinês simplificado frequentemente geram respostas mais pró-governo do que aqueles em inglês ou chinês tradicional. Além disso, pistas contextuais, como instruções de sistema que implicam uso no continente, podem deslocar os modelos em direção às narrativas oficiais, enquanto estruturas agênticas ou acesso à busca na web tendem a reduzir esse viés. O estudo também destaca que a recusa em responder é contada como neutra, potencialmente mascarando uma censura rigorosa, e que o ajuste fino pode alterar significativamente a frequência com que os modelos adotam posturas oficiais. Esses resultados sugerem que o alinhamento político na IA é influenciado por múltiplos fatores além do simples controle estatal.
decoder