Acesso à IA torna pessoas quase totalmente relutas em dizer "não sei", aponta estudo
decoder ·
Um estudo recente com 3.132 participantes revela que o acesso a modelos de linguagem de IA reduz significativamente a disposição das pessoas em admitir incerteza. Os pesquisadores constataram que, quando havia aconselhamento de IA disponível, a taxa de participantes dizendo "não sei" caiu de mais de 36% para apenas 3%, apesar de a IA fornecer respostas majoritariamente incorretas em perguntas específicas de trivia. Essa mudança resultou em um aumento acentuado na confiança dos usuários, mas também em uma diminuição correspondente na precisão das respostas, com as taxas de resposta correta caindo pela metade. O efeito persistiu mesmo quando as sugestões da IA eram exibidas automaticamente, sem solicitação do usuário, espelhando o comportamento dos mecanismos de busca modernos. Embora incentivos financeiros tenham reduzido modestamente a dependência da IA e melhorado a precisão, eles não restauraram totalmente a tendência de abster-se de responder. Os autores atribuem esse fenômeno à "Epistemia", na qual os usuários aceitam saídas da IA que soam convincentes sem verificação. Consequentemente, a pesquisa sugere que o julgamento humano pode ser prejudicado à medida que a IA se torna ubíqua, independentemente da precisão do modelo.
decoder