通过与领域对齐的解释来提高医学诊断中AI的可解释性的图表化和溯因

研究背景与问题

• 问题与挑战：现有的解释性人工智能(XAI)方法通常使用简单的可视化工具（如柱状图、折线图、热图），但这些工具不易与复杂领域的用户习惯或知识体系对齐，特别是在医疗诊断等高风险领域。用户不得不进行额外的推理工作以解读结果，这导致了解释性差距。
• 重要性：医疗诊断领域的决策对患者健康有重大影响，因此对模型解释性的要求更高。解决这一问题有助于增加专家对AI的信任，提高诊断准确性并减少误诊。
• 研究动机与相关工作：作者指出，解释应与领域知识和推理过程对齐，并提出一项框架，通过图表化支持领域相关的知识结构和推理方法。本研究特别关注心脏诊断，利用心音听诊数据进行诊断，并提出了DiagramNet模型。

解决方案

• 方法概述：作者提出了一种域对齐的XAI设计框架，其中包括图表化和选择性溯因推理，并应用到心脏诊断场景中。所提出的DiagramNet模型是一个模块化的前置可解释模型，通过心杂音图表化解释诊断结果，并用溯因推理评估多个假设以得出最佳诊断。
• 创新点：
  • 提出一种框架，将图表化（使用领域图表）与溯因推理结合起来，提高解释的可信度。
  • 使用心音数据并拟合心杂音的形状作为图表化解释。
  • 提供形式化的溯因推理模型，明确多个假设与观察证据之间的关系。
• 实施步骤：
  1. 数据准备：从心音录音中提取时序数据，并进行滑动窗口分割，以生成训练实例。
  2. 图表化建模：使用分段线性函数，以领域约束形式化心杂音形状。
  3. 模型架构设计：开发DiagramNet，通过模块化方法实现观察、假设生成、证据评估和最佳解释解析。
  4. 解释生成：分别生成图表化解释、对比解释、反事实解释和基于实例的解释。

研究成果

• 具体成果：
  • DiagramNet实现了前置可解释性，能够直接提供符合心脏诊断领域知识的图表化解释。
  • 模型不仅在预测性能上优于其他基线模型，还能够更忠实地提供解释。
• 对比优势：
  • 与现有基于热图的解释方法相比，DiagramNet的解释与临床实际更紧密结合，从而提升了用户的信任度。
  • 图表化限制了解释的潜在伪劣性，提供了验证性强的解释。
• 实验或评估结果：
  • 建模评估：DiagramNet在预测准确性、解释忠实性方面表现突出。诊断准确率从基线模型的86.0%提升至95.7%。
  • 用户研究：通过与医学学生的访谈和测试，发现域对齐的图表化解释比传统的热图解释更能够提高用户信任（图表化解释信任比例为86%，热图仅为38%）。
• 局限性与未来方向：
  • 局限性：当前研究仅专注于心脏听诊领域，虽然使用医学学生作为实验对象，但无法充分覆盖不同临床场景和更广泛的专家体验。此外，对复杂诊断场景的适配性测试还未进行。
  • 未来方向：可以将该方法推广到其他高风险领域，例如皮肤癌检测或银行贷款审批中的公平性解释。同时，进一步研究如何结合语言解释与图表化解释，增强多模态的解释能力。

这一研究展示了如何通过领域对齐的方法提升AI解释的可信度和实用性，并为高风险领域提供了一种具有参考价值的解决方案。