局部特征重要性的上下文解释与探索：提升非专业用户理解与满意度

文献标题

Contextualization and Exploration of Local Feature Importance Explanations to Improve Understanding and Satisfaction of Non-Expert Users

文献信息

• 主题领域: 人工智能、机器学习模型的可解释性及人机交互
• 关键词: 可解释人工智能 (XAI)、人中心方法、用户研究、接口设计、本地特征重要性

研究背景与问题

• 发现的问题或挑战:

  • 随着机器学习（ML）模型在决策支持中的使用越来越广泛，这些模型的不可解释性限制了它们的采用，尤其是面向非专业用户。
  • 本地特征重要性解释（如 SHAP 方法）是帮助非专业用户理解特定模型输出的工具，但研究表明，这类解释易导致用户误解或生成不完整的心智模型。
  • 非专业用户在接触类似解释时，存在呈现形式（如图表 vs 文本）影响理解效果的问题。

• 研究重要性:

  • 提供清晰、透明的模型解释机制能够提升用户对机器学习模型的信任度和满意度，同时减少由于解释误解而产生的风险。
  • 针对非专业用户优化的解释设计可促进人工智能技术的广泛应用。

• 研究动机与相关工作:

  • 当前以可解释性为目标的设计方法大多针对 ML 或领域专家，而非面向缺乏技术背景的普通用户。
  • 社会科学与 XAI 研究均表明，上下文化与探索性界面对提高用户理解具有潜在作用。
  • 相关文献已探索通过提供先验知识、实例对比等方式增强解释的可视化，但缺乏广泛针对非专业用户的验证。

解决方案

• 提出的方法或解决方案:

  • 提出通用的 XAI 设计原则，重点在于非专业用户视角下对本地特征重要性解释的“上下文化”(Contextualization) 和“探索性功能允许”(Exploration)。
  • 上下文化设计包括提供机器学习系统透明度（ML Transparency）、领域透明度（Domain Transparency）及外部透明度（External Transparency）。
  • 探索性设计包括互动展示(Interactive Display)及基于示例的解释(Example-based Explanations)。

• 创新之处:

  • 针对非专业用户需求，结合上下文化信息和交互式工具提升解释可用性。
  • 提出性别、车辆信息等外部因素也需在用户界面中清晰传达，以消除误解。

• 实施步骤与技术:

  • 在汽车保险定价场景下开发了展示模型预测与解释的交互式原型，采用 SHAP 方法生成本地特征重要性解释。
  • 提供三种特定原则的接口设计：卡片化展示、对模型/领域/外部信息透明化的描述以及交互按钮和静态示例图表的引入。

研究成果

• 具体成果:

  • 设计并实现了基于上述原则的交互原型，用于汽车保险自定义定价的解释。
  • 通过用户实验验证了这些改进对非专业用户理解和满意度的作用。
  • “上下文化”有效提升了用户的主观满意度，且对用户的客观理解接近显著性提升（p=0.06）。
  • “探索性功能允许”对用户满意度有显著改善（p=0.03）。

• 与现有解决方案的比较优势:

  • 提出的设计对非专业用户更友好，不仅仅针对于专家用户。
  • 同时优化了用户的理解（客观维度）和满意度（主观维度），减少了用户的操作时间成本。

• 实验或评估结果:

  • 共 80 名用户参与实验，分别测试了四个条件（包括无上下文化或探索性功能的基准条件）下的理解与满意度。
  • 提供上下文化的界面相比基准条件，用户的满意度评分从 3.65 至 4.57；结合探索性功能后上升至 4.79。

• 局限性与未来方向:

  • 局限性:

    • 当前实验聚焦于单一应用领域（汽车保险），难以推广至其他场景的泛用性。
    • 样本数量尚不足以对多种上下文化原则进行深入对比分析。

  • 未来方向:

    • 延展至其他行业领域（如医疗、招聘等）验证研究成果的通用性。
    • 探讨用户在理解与满意度之间的潜在关联。
    • 扩展参加实验用户数量，以探索用户特征与解释效果之间的依赖关系。