ConceptSMILE: Auditando a Confiabilidade da IA Explicável Baseada em Conceitos

arXiv:2607.09649v1 Tipo de anúncio: novo Resumo: A inteligência artificial (IA) explicável baseada em conceitos pode tornar o raciocínio dos modelos mais compreensível para os humanos, mas as saídas em nível de conceito não são automaticamente confiáveis. Apresentamos o ConceptSMILE, um framework de auditoria baseado em perturbação e independente de modelo para avaliar a confiabilidade de explicações baseadas em conceitos. Em vez de substituir o SMILE, o ConceptSMILE estende sua lógica baseada em perturbação da atribuição em nível de característica ou de região para a auditoria de ...