Especialistas adotam opiniões aleatórias de agentes de IA e acreditam serem suas próprias, aponta estudo da Anthropic
decoder ·
Um estudo da Anthropic envolvendo 50 especialistas revelou que os participantes frequentemente adotaram as preferências aleatoriamente atribuídas a um agente de IA, com taxas de adoção chegando a 86% em tarefas analíticas. Apesar de as escolhas do agente serem determinadas por lançamentos de moeda, a maioria dos especialistas acreditava que as recomendações finais eram suas próprias decisões, e não influenciadas pela IA. A pesquisa indica que fatores como experiência profissional, nível de especialização e confiança na tecnologia não reduziram significativamente essa deferência à inteligência artificial. Embora o uso de agentes de IA tenha melhorado a eficiência e reduzido erros metodológicos graves, também levou a um fenômeno em que os especialistas espelhavam inconscientemente os argumentos do agente. Os autores alertam que a dependência generalizada de modelos semelhantes pode criar consenso falso na pesquisa científica e comprometer as avaliações de segurança da IA. Para mitigar esses riscos, o estudo sugere que os agentes devam argumentar ambos os lados de uma questão ou solicitar opiniões humanas antes de assumir uma posição. Essas descobertas alinham-se com outros estudos recentes que mostram que a interação com a IA pode erodir habilidades de pensamento crítico e gerar excesso de confiança no julgamento humano. Em última análise, os pesquisadores enfatizam a necessidade de divisões estruturadas de trabalho para garantir que os humanos mantenham controle independente sobre processos complexos de tomada de decisão.
decoder