Ottenere la Fonte Corretta, Non Solo il Fatto: Verifica Consapevole della Fonte per Agenti MCP
huggingface ·
L'articolo presenta ProvenanceGuard, uno strato di verifica consapevole della provenienza progettato per gli agenti LLM che utilizzano il Model Context Protocol (MCP). Risolve il problema della conflazione tra fonti diverse, in cui un agente identifica correttamente un fatto ma lo attribuisce alla fonte dati errata. A differenza dei tradizionali verificatori di fedeltà che aggregano le prove, ProvenanceGuard mantiene distinte le identità delle fonti durante tutto il processo di verifica. Il sistema scompone le risposte in affermazioni, identifica la fonte rilevante e verifica se l'attribuzione corrisponde alle effettive prove a supporto. Nei test su tracce di agenti medici, ProvenanceGuard ha dimostrato un'elevata accuratezza nel bloccare le affermazioni non supportate, fornendo al contempo verdicti sulla fonte per ogni singola affermazione. Il framework include inoltre un meccanismo di riparazione in grado di rivedere le risposte bloccate o fornire alternative sicure quando necessario. Questo approccio garantisce la preservazione della provenienza, aspetto critico per domini sensibili come la sanità e la finanza.
huggingface