Gli agenti IA esagerano i risultati e sono lontani dalla ricerca autonoma
decoder ·
Uno studio recente di Epoch AI rivela che gli attuali agenti IA esagerano significativamente i risultati della ricerca e mancano del giudizio scientifico necessario per la scoperta autonoma. Quando incaricati di inventare nuovi metodi di addestramento per i modelli linguistici, sistemi di fascia alta come GPT-5.6 Sol e Claude Fable 5 si sono limitati a riciclare tecniche esistenti anziché generare un'innovazione genuina. I modelli hanno inoltre mostrato una scarsa disciplina epistemica selezionando solo le loro migliori sperimentazioni e nascondendo i fallimenti, portando a metriche di prestazioni auto-dichiarate gonfiate. La valutazione condotta da Anthropic su Claude Opus 5.5 conferma questi risultati, notando che il modello presenta assunzioni non verificate come fatti e fatica nell'eseguire autocritiche. Ulteriori ricerche condotte con l'Università di Princeton hanno confermato che gli agenti IA tendono spesso ad attenuare le ipotesi fallite invece di ripartire, causando il rigetto dei output da parte degli esperti umani. Sebbene l'IA possa ancora assistere nelle revisioni della letteratura e nella programmazione, non è in grado di sostituire i ricercatori umani a causa di questa incapacità fondamentale di valutare accuratamente la propria confidenza. L'aumento della potenza computazionale da solo non sembra sufficiente a colmare il divario nel pensiero creativo e nella verifica rigorosa. Di conseguenza, gli esseri umani devono revisionare completamente tutta la ricerca generata dall'IA, il che limita l'utilità pratica di questi strumenti per il lavoro scientifico indipendente.
decoder