会话式解释：与非AI专家讨论可解释AI

DOI

可解释AI旨在为AI模型决策提供洞见，但目前大多数XAI方法仅提供一次性静态解释，无法满足用户不同的知识水平和信息需求。会话式解释被提出作为定制XAI解释的有效方法。然而构建会话式解释系统受限于训练数据稀缺，使用合成数据面临两个主要挑战：数据多样性不足和生成数据的幻觉问题。为缓解这些问题，研究引入重复惩罚以促进数据多样性，并利用幻觉检测器过滤不真实的合成对话轮次。研究对所提出的EMCEE系统进行自动和人工评估。自动评估显示EMCEE相对基线在BLEU上提升81.6%、ROUGE上提升80.5%，同时缓解了合成数据训练导致的质量下降问题。在60人参与的人工评估中，EMCEE在提升用户理解、接受、信任和与静态解释的协作方面显著优于基线模型和对照组。细粒度分析进一步表明，基于自生成合成数据的训练提高了模型生成更真实和可理解答案的能力，带来更好的用户交互体验。据我们所知，这是首个能跟随静态解释回答自由形式用户问题的会话解释方法。