Possiamo fidarci dei modelli linguistici di grandi dimensioni per giudicare la novità di un'idea di ricerca?
huggingface ·
L'Allen Institute for AI ha pubblicato un nuovo studio e benchmark intitolato 'Old Ideas, Novel Problems' per valutare l'affidabilità dei grandi modelli linguistici (LLM) come giudici di novità nella ricerca scientifica. La ricerca rivela che gli LLM faticano a distinguere in modo coerente le idee nuove dal lavoro esistente, con piccole variazioni nei prompt che causano drastici cambiamenti nelle valutazioni. Negli esperimenti condotti su sei modelli principali, la modifica della formulazione del prompt ha alterato l'accuratezza di oltre 50 punti percentuali nella valutazione delle idee generate dall'IA. Sebbene i giudici sembrassero più stabili nel valutare articoli scritti da esseri umani, hanno mostrato una significativa fragilità quando hanno valutato output provenienti da sistemi automatizzati di ideazione. Inoltre, l'aggiunta di meccanismi di recupero complessi o budget di ragionamento più elevati non ha migliorato le prestazioni e spesso ha aumentato i costi senza migliorare l'accuratezza. Le pipeline di valutazione appositamente progettate hanno ottenuto risultati peggiori rispetto ai semplici baseline basati su prompt, evidenziando le inefficienze degli approcci attuali. Questi risultati suggeriscono che l'automazione della validazione della novità scientifica rimane una sfida irrisolta, che richiede metodi di valutazione più robusti e standardizzati.
huggingface