Obter a Fonte Certa, Não Apenas o Fato: Verificação Consciente da Fonte para Agentes MCP
huggingface ·
O artigo apresenta o ProvenanceGuard, uma camada de verificação consciente da proveniência projetada para agentes LLM que utilizam o Protocolo de Contexto do Modelo (MCP). Ele aborda o problema da confluência entre fontes, em que um agente identifica corretamente um fato, mas o atribui à fonte de dados errada. Diferente dos verificadores tradicionais de fidelidade que agrupam evidências, o ProvenanceGuard mantém as identidades das fontes distintas durante todo o processo de verificação. O sistema decompor as respostas em afirmações, identifica a fonte relevante e verifica se a atribuição corresponde às evidências de suporte reais. Em testes com rastros de agentes médicos, o ProvenanceGuard demonstrou alta precisão ao bloquear afirmações sem suporte, ao mesmo tempo em que fornecia veredictos por fonte para cada afirmação. A estrutura também inclui um mecanismo de reparo capaz de revisar respostas bloqueadas ou fornecer alternativas seguras quando necessário. Essa abordagem garante que a proveniência seja preservada, o que é crítico para domínios sensíveis, como saúde e finanças.
huggingface