Los modelos de IA chinos repiten la doctrina estatal o se niegan a responder sobre temas sensibles
decoder ·
Un reciente estudio de Aleph Alpha revela que los modelos de inteligencia artificial chinos, incluidos los de Alibaba y DeepSeek, suelen alinearse con la doctrina estatal o se niegan a responder cuando se les consulta sobre temas políticamente sensibles. El benchmark evaluó 967 temas tabú y descubrió que solo una pequeña fracción de las respuestas fueron equilibradas, mientras que la mayoría repetía narrativas oficiales o evadía las preguntas. Este comportamiento se correlaciona con las regulaciones de China que exigen que los modelos dirigidos al público respeten los valores fundamentales del socialismo. Curiosamente, los sesgos pro-China también se filtran en las respuestas sobre problemas globales no relacionados, como la gobernanza de Internet en Estados Unidos. El informe señala además que modelos occidentales como el Nemotron Cascade 2 de Nvidia presentan patrones ideológicos similares debido a los datos de entrenamiento derivados de sistemas chinos. Los investigadores advierten que estas salidas uniformes podrían influir significativamente en las perspectivas de los usuarios en todo el mundo. Mientras tanto, los esfuerzos políticos para moldear las ideologías de la IA también son evidentes en Estados Unidos, lo que crea un panorama complejo para los desarrolladores europeos. Los hallazgos destacan el desafío de competir contra sistemas de valores extranjeros incrustados en las principales tecnologías de IA.
decoder