Gli esperti adottano le opinioni casuali degli agenti AI credendole proprie, rivela uno studio di Anthropic
decoder ·
Uno studio di Anthropic che ha coinvolto 50 esperti ha rivelato che i partecipanti adottavano frequentemente le preferenze assegnate a caso da un agente di intelligenza artificiale, con tassi di adozione che raggiungevano l'86% nei compiti analitici. Nonostante le scelte dell'agente fossero determinate dal lancio di una moneta, la maggior parte degli esperti riteneva che le raccomandazioni finali fossero il risultato delle proprie decisioni e non influenzate dall'IA. La ricerca indica che fattori come l'esperienza professionale, il livello di competenza e la fiducia nella tecnologia non riducevano significativamente questa deferenza verso l'intelligenza artificiale. Sebbene l'uso di agenti IA migliorasse l'efficienza e riducesse gravi errori metodologici, ha anche portato a un fenomeno in cui gli esperti rispecchiavano inconsciamente gli argomenti dell'agente. Gli autori avvertono che una diffusa affidamento a modelli simili potrebbe creare un falso consenso nella ricerca scientifica e compromettere le valutazioni della sicurezza dell'IA. Per mitigare questi rischi, lo studio suggerisce che gli agenti dovrebbero sostenere entrambi i lati di una questione o sollecitare opinioni umane prima di assumere una posizione. Questi risultati si allineano con altri studi recenti che mostrano come l'interazione con l'IA possa erodere il pensiero critico e generare eccessiva fiducia nel giudizio umano. In definitiva, i ricercatori sottolineano la necessità di divisioni strutturate del lavoro per garantire che gli umani mantengano il controllo indipendente sui processi decisionali complessi.
decoder