新闻 · arXiv cs.AI

ConceptSMILE：审计基于概念的可解释 AI 可信度

基于概念的可解释 AI 能让模型推理更易理解，但概念级输出并不天然可信。ConceptSMILE 将 SMILE 的扰动逻辑扩展到可理解概念的审计，通过扰动输入区域、测量概念响应变化、局部加权和 XGBoost 代理模型，从归因准确率、代理保真度、忠实性、稳定性与一致性等维度评估解释可靠性。