Pouvons-nous faire confiance aux LLM pour juger si une idée de recherche est nouvelle ?
huggingface ·
L'Allen Institute for AI a publié une nouvelle étude et un benchmark intitulés « Old Ideas, Novel Problems » pour évaluer la fiabilité des grands modèles de langage (LLM) en tant que juges de la nouveauté dans la recherche scientifique. Les résultats montrent que les LLM peinent à distinguer de manière cohérente les idées nouvelles du travail existant, de petites modifications dans les invites provoquant des changements drastiques dans les verdicts. Lors d'expériences impliquant six modèles majeurs, la modification de la formulation des invites a fait varier la précision de plus de 50 points de pourcentage lors de l'évaluation d'idées générées par l'IA. Bien que les juges aient paru plus stables sur les articles rédigés par des humains, ils ont présenté une fragilité significative lors de l'évaluation des sorties de systèmes d'idéation automatisés. De plus, l'ajout de mécanismes de récupération complexes ou de budgets de raisonnement plus élevés n'a pas amélioré les performances et a souvent augmenté les coûts sans améliorer la précision. Les pipelines d'évaluation conçus spécifiquement pour cette tâche ont obtenu de moins bons résultats que les lignes de base simples basées sur des invites, mettant en lumière les inefficacités des approches actuelles. Ces conclusions suggèrent que l'automatisation de la validation de la nouveauté scientifique reste un défi non résolu, nécessitant des méthodes d'évaluation plus robustes et standardisées.
huggingface