Ancoragem Enganosa: Falha na Atribuição de Entidades na Geração Aumentada por Recuperação em Contextos Clínicos

arXiv:2607.09349v1 Tipo de Anúncio: novo Resumo: A avaliação da geração aumentada por recuperação verifica se as afirmações do modelo estão factualmente ancoradas nos documentos recuperados. Ela não verifica se a evidência recuperada é atribuída à entidade correta. Uma resposta de RAG clínica pode passar em todas as verificações automatizadas (zero alucinações, fidelidade quase perfeita, citações reais) enquanto apresenta a evidência clínica do medicamento Y como evidência sobre o medicamento X consultado. Chamamos isso de ancoragem enganosa (DG): uma falha invisí...