Comparables XAI：具有反事实轨迹调整的忠实基于示例的人工智能解释

文献标题

Comparables XAI: Faithful Example-based AI Explanations with Counterfactual Trace Adjustments

出版信息

• 主题领域: 可解释人工智能（XAI）方法，用于提升用户对AI决策的理解。
• 关键词: 可解释人工智能、基于示例的解释、反事实、轨迹调整、忠实性、可解释性、估值任务、用户研究、建模研究、决策支持。

背景与问题

• 问题/挑战: 现有的XAI方法对非专业用户来说通常过于技术化，而基于示例的解释在可比对象与目标对象差异显著时缺乏忠实性。线性调整过于简单，无法捕捉复杂领域中的非线性趋势。
• 重要性: 忠实且可解释的解释对于增强AI系统的信任和理解至关重要，尤其是在需要跨多个属性进行分析比较的领域，如房地产估值和薪资预测。
• 动机与相关工作: 基于示例的解释直观但在复杂领域中不够精确。反事实解释具有分析性，但通常专注于可操作的补救措施而非忠实估计。之前的方法如线性回归和线性调整无法在非线性背景下平衡忠实性与可解释性。

解决方案

• 提出的方法: Comparables XAI结合轨迹调整——一种通过沿AI模型决策表面逐步调整可比对象属性来生成忠实反事实轨迹的方法。
• 创新点:
  1. 提出Comparables XAI作为一种受房地产估值实践启发的解释范式。
  2. 开发结合轨迹调整的Comparables方法，以生成逐步反事实，从而提升忠实性和可解释性。
  3. 使用稀疏性、不相交性、单调性和均匀性等目标优化反事实轨迹。
  4. 通过建模和用户研究在多个领域进行验证。
• 流程与关键技术:
  1. 基于与目标对象的相似性选择可比对象。
  2. 使用分段线性函数沿AI模型决策表面对属性进行逐步调整。
  3. 通过正则化项优化轨迹调整以满足目标要求。
  4. 通过建模研究和用户实验评估该方法。

结果

• 具体发现:
  • 结合轨迹调整的Comparables方法在所有测试领域中实现了最低预测误差、最高忠实性和最窄的不确定性范围。
  • 用户研究表明，与基线方法相比，轨迹调整提高了决策准确性和信心。
• 相较基线的优势:
  • 在忠实性和精确性方面优于仅使用Comparables、结合线性回归的Comparables以及结合线性调整的Comparables。
  • 在传统方法中更好地平衡了准确性和可解释性。
• 实验/评估:
  • 在五个领域（房价、薪资、能源消耗、药物敏感性、作物产量）进行建模研究，使用预测误差、不忠实性和不确定性范围等指标。
  • 进行初步用户研究，包含25名参与者，以了解解释的可用性和感知效果。
  • 进行总结性用户研究，包含330名参与者，以评估决策准确性、精确性和感知的帮助程度。
  • 进行专家用户研究，包含5名房地产专业人士，以评估实际应用性。
• 局限性与未来工作:
  • 假设可比对象已预先选择；未来工作可探索自动选择方法。
  • 在预测误差和反事实方向性等混杂因素上的实验有限。
  • 忠实性尚无正式理论保证；未来工作可提供严格的证明。

总结

Comparables XAI通过沿AI决策表面追踪反事实调整，引入了一种生成忠实基于示例解释的范式。该方法通过目标优化平衡了准确性和可解释性。建模研究和用户实验表明其在提升决策准确性、精确性和用户信心方面的有效性。尽管前景广阔，但仍需在可比对象选择、混杂因素和理论保证方面解决局限性。Comparables XAI在估值及其他需要分析比较的决策场景中具有广泛的应用潜力。