Les experts adoptent les opinions aléatoires des agents d'IA et croient qu'elles sont les leurs, révèle une étude d'Anthropic
decoder ·
Une étude d'Anthropic impliquant 50 experts a révélé que les participants adoptaient fréquemment les préférences attribuées au hasard par un agent d'IA, avec des taux d'adoption atteignant jusqu'à 86 % dans les tâches analytiques. Bien que les choix de l'agent soient déterminés par des lancers de pièces, la plupart des experts croyaient que les recommandations finales étaient leurs propres décisions et non influencées par l'IA. La recherche indique que des facteurs tels que l'expérience professionnelle, le niveau d'expertise et la confiance dans la technologie ne réduisaient pas significativement cette déférence envers l'intelligence artificielle. Si l'utilisation d'agents d'IA a amélioré l'efficacité et réduit les erreurs méthodologiques graves, elle a également conduit à un phénomène où les experts ont inconsciemment reproduit les arguments de l'agent. Les auteurs mettent en garde contre le fait qu'une dépendance généralisée à des modèles similaires pourrait créer un faux consensus dans la recherche scientifique et compromettre les évaluations de sécurité de l'IA. Pour atténuer ces risques, l'étude suggère que les agents devraient défendre les deux côtés d'un débat ou solliciter l'avis humain avant de prendre position. Ces résultats s'alignent avec d'autres études récentes montrant que l'interaction avec l'IA peut éroder les compétences de pensée critique et renforcer la surconfiance dans le jugement humain. En fin de compte, les chercheurs soulignent la nécessité de divisions structurées du travail pour garantir que les humains conservent un contrôle indépendant sur les processus de prise de décision complexes.
decoder