Modelos de IA chineses repetem a doutrina estatal ou recusam-se a responder sobre tópicos sensíveis
decoder ·
Um estudo recente da Aleph Alpha revela que modelos de IA chineses, incluindo os da Alibaba e da DeepSeek, frequentemente se alinham à doutrina estatal ou recusam-se a responder quando questionados sobre temas politicamente sensíveis. O benchmark testou 967 assuntos tabu, constatando que apenas uma pequena fração das respostas foi equilibrada, enquanto a maioria repetiu narrativas oficiais ou desviou as perguntas. Esse comportamento está correlacionado com as regulamentações da China, que exigem que modelos voltados ao público mantenham os valores fundamentais do socialismo. Curiosamente, vieses pró-China também transbordam para respostas sobre questões globais não relacionadas, como a governança da internet nos Estados Unidos. O relatório observa ainda que modelos ocidentais, como o Nemotron Cascade 2 da Nvidia, exibem padrões ideológicos semelhantes devido aos dados de treinamento derivados de sistemas chineses. Pesquisadores alertam que tais saídas uniformes podem influenciar significativamente as perspectivas dos usuários em todo o mundo. Enquanto isso, esforços políticos para moldar as ideologias da IA também são evidentes nos Estados Unidos, criando um cenário complexo para desenvolvedores europeus. As descobertas destacam o desafio de competir contra sistemas de valores estrangeiros embutidos nas principais tecnologias de IA.
decoder