Los expertos adoptan las opiniones aleatorias de los agentes de IA y creen que son propias, según un estudio de Anthropic
decoder ·
Un estudio de Anthropic con 50 expertos reveló que los participantes adoptaron frecuentemente las preferencias asignadas al azar por un agente de IA, alcanzando tasas de adopción de hasta el 86 % en tareas analíticas. A pesar de que las elecciones del agente se determinaban mediante lanzamientos de moneda, la mayoría de los expertos creyeron que las recomendaciones finales eran sus propias decisiones y no estaban influenciadas por la IA. La investigación indica que factores como la experiencia profesional, el nivel de expertise y la confianza en la tecnología no redujeron significativamente esta deferencia hacia la inteligencia artificial. Si bien el uso de agentes de IA mejoró la eficiencia y redujo errores metodológicos graves, también provocó un fenómeno en el que los expertos reflejaron inconscientemente los argumentos del agente. Los autores advierten que la dependencia generalizada de modelos similares podría crear consensos falsos en la investigación científica y comprometer las evaluaciones de seguridad de la IA. Para mitigar estos riesgos, el estudio sugiere que los agentes deberían argumentar ambos lados de una cuestión o solicitar opiniones humanas antes de establecer una posición. Estos hallazgos coinciden con otros estudios recientes que muestran que la interacción con la IA puede erosionar las habilidades de pensamiento crítico y generar una excesiva confianza en el juicio humano. En última instancia, los investigadores enfatizan la necesidad de divisiones estructuradas del trabajo para garantizar que los humanos mantengan el control independiente sobre procesos complejos de toma de decisiones.
decoder