关于选择性、可变性和对话式的XAI：对用户对不同类型交互解释的评论综述

文献标题

On Selective, Mutable and Dialogic XAI: a Review of What Users Say about Different Types of Interactive Explanations

文献信息

• 主题领域: 解释性人工智能 (Explainable Artificial Intelligence, XAI) 的交互性与人机交互设计评估。
• 关键词: 交互性, 解释性人工智能, 可解释性, 用户评价, 人工智能, 信息可视化, 人机交互

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 当前 XAI 技术仍以静态解释为主，对交互式解释的理论和实证研究不足。
  • 不同类型的交互式解释对用户体验的影响（如理解、效用与信任）缺乏明确结论。
  • 相关研究中缺乏通用术语来描述 XAI 的交互技术，使得分析及比较研究变得困难。

• 为什么这个问题很重要？

  • 解释性人工智能的目的是增强用户对模型的理解与信任，这涉及实际应用中的关键领域，如医疗、法律等。
  • 交互性能够更有效支持用户解释认知过程，但其具体优缺点尚不清楚。
  • 设计更精准并满足用户需求的解释系统需要系统化的研究支持。

• 研究动机与相关工作

  • 作者受到人机交互 (HCI)、信息可视化 (Infovis) 与教育领域研究的启发，提出交互式解释能加强用户理解并促进知识构建。
  • 研究基于过往理论工作及经验总结的具体需求，如 Miller 对社会科学解释理论的分析，以及 XAI 系统需满足不同用户群体需求的观点。

解决方案

• 作者提出了哪些方法或解决方案？

  • 进行了详细的范围界定性综述（scoping review），评估了 48 篇关于交互式解释的实证研究。
  • 构建了特定于 XAI 的交互技术分类法，将交互技术划分为“选择性 (Selective)”、“可变性 (Mutable)”和“对话性 (Dialogic)”三种层次。

• 该解决方案的创新之处是什么？

  • 将其他领域（如信息可视化与人机交互）的交互分类系统具体适用于 XAI，提出了九种主要交互类型。
  • 首次系统总结了交互式解释对用户体验指标（如信任、理解）的影响，并明确了尚需进一步研究的领域。

• 实施步骤是什么？使用了哪些关键技术？

  1. 文献检索: 从 ACM Digital Library 和 IEEE Xplore 数据库中收录了以交互性和用户研究为核心的相关 XAI 文献。
  2. 分类构建: 根据文献内容提取解释类型、交互技术和评价指标，归纳出九个主要交互类别。
  3. 效果评估: 结合实证研究数据，分析交互式解释对用户体验指标的影响。
  4. 结果整合: 提出了交互技术分类与用户评估工具箱，并总结了交互式 XAI 的优势与不足。

研究成果

• 取得了哪些具体成果？

  • 提出针对 XAI 的交互分类法，包括三大层次（选择性、可变性和交互性）和九个具体交互类型。
  • 发现了交互机制对用户工作性能和解释实用性的积极影响，但对用户认知负担及过度依赖问题的作用尚不明确。

• 与现有解决方案相比，它有哪些优势？

  • 将理论工作与实证研究结合，为设计高效的用户中心交互式解释系统提供了参考依据。
  • 系统性总结了交互类型与评估指标，为后续研究奠定了基础。

• 实验或评估结果是什么？

  • 与静态解释相比，交互式解释显著提升了用户的任务性能和系统的实用性，但并未普遍改善可用性。
  • 不同交互类型的作用可能具有差异。例如，Clarify 类型交互有助于减少用户过度依赖 AI，而 Simulate 类型交互可能增加用户工作负担。

• 局限性与未来方向

  • 局限性:
    • 研究未进行对包含的文献质量的系统性评估。
    • 主要基于 HCI 社区文献，可能遗漏了其他 AI 领域的重要研究。
    • 当前研究数据主要来自实验室环境，缺乏真实世界应用的广泛验证。
  • 未来方向:
    • 探索交互性与用户记忆负担之间的关系，优化用户体验。
    • 研究如何将对话型解释与其他交互类型组合以实现最佳效果。
    • 进一步明确不同交互技术对提高用户理解和减少认知负担的相对贡献。