XAIR：增强现实中的可解释人工智能框架

文献标题

XAIR: A Framework of Explainable AI in Augmented Reality

文献信息

• 主题领域: 可解释人工智能 (XAI) 与增强现实 (AR)
• 关键词: 可解释人工智能 (XAI), 增强现实 (AR), 设计框架, 用户体验, 智能系统, 推荐系统, 用户可信度, 模型透明性

研究背景与问题

• 发现的问题或挑战:

  • 随着增强现实 (AR) 技术与人工智能 (AI) 的不断融合，为非专家用户提供清晰和透明的 AI 模型解释变得愈发重要，但如何设计有效的 XAI 体验仍存在挑战。
  • AR 技术的独特性质（例如，实时感知用户状态和环境）在设计一个 AR 专属的 XAI 框架时面临着独特的问题。
  • 之前的 XAI 框架主要针对开发者或专家，缺乏针对普通用户以及 AR 特定场景的设计指导。

• 重要性:

  • 提升非专家用户对 AR 系统的信任度，减少困惑，强化体验透明性至关重要。
  • AR 的普及需要更容易解释的智能服务以实现用户信任，并减少错误和数据隐私的担忧。

• 研究动机与相关工作:

  • 近年来，XAI 的工业和学术研究迅速增长，已有工作的重点主要是为 AI 模型的开发者和行业专家服务，鲜少关注面向一般用户或 AR 场景的 XAI 设计。
  • 作者提出填补这一空缺，设计一个适用于 AR 的整体 XAI 框架。

解决方案

• 方法与框架:

  • 提出了一个名为 XAIR 的设计框架，用以指导如何在 AR 场景中提供有效的 AI 输出解释。
  • 框架划分了三个关键设计问题：
    1. 何时解释 (When to explain): 包括解释的可用性和触发方式。
    2. 解释什么 (What to explain): 涉及具体内容种类及详细程度。
    3. 如何解释 (How to explain): 涉及视觉化或音频表现手段及交互模式。
  • 研究通过以下步骤完成框架设计：
    1. 多学科文献回顾，明确设计问题空间与维度。
    2. 针对 500 多位参与者的用户调查，探讨用户对 AR 解释设计的偏好。
    3. 与 12 位专家进行多轮研讨，集成领域建议。
    4. 对框架进行设计师和普通用户的双重验证。

• 关键技术:

  • 用户需求分析方法（用户调查与半结构化访谈）。
  • AR 的用户上下文推测能力与多模态展示特性结合。
  • 文档化的说明类型（Why/Why-Not、How、Certainty 等）。

研究成果

• 具体成果:

  • 设计并验证了 XAIR 框架，提出 8 条适用于设计过程的具体指导原则。
  • 总结了影响 AR XAI 设计的 5 个关键因素：用户状态、上下文信息、系统目标、用户目标以及用户个人特性。
  • 在框架指导下开发了两个日常场景的示例设计（例如跑步导航建议和植物护理建议）。

• 相较现有方案的优势:

  • 针对 AR 环境（如场景适应性和空间感）提供具体化的可解释性设计方案。
  • 考虑普通用户的需求与认知负荷，提供默认方案与详细体验选项。

• 评估与实验结果:

  • 在设计实验中，10 名设计师使用 XAIR 后生成的设计更加一致和系统化（对框架提供的创造性支持打分 7.9 / 10）。
  • 使用设计师建议开发的实时 AR 系统进行实验。12 名普通用户测试后认为该系统的可用性很高（SUS 得分分别达到 86 和 80），AI 解释显著提高了透明度和信任度。

• 局限性与未来方向:

  • 局限性:
    • 框架未涉及某些可能的维度（如“解释的对象”或“解释的地点”）。
    • 实验场景集中于推荐系统，未涵盖更加广泛的应用场景。
    • 设计完全依赖人类直觉，如何实现自动化判断仍需不断探索。
  • 未来方向:
    • 开发一个全自动的设计推荐工具，将框架转化为算法化决策流程。
    • 扩展框架以支持开发者与领域专家等新用户群体。
    • 探讨长期用户与系统的共同学习过程，进一步深化用户自定义 XAI 功能的研究。

通过 XA​​IR 框架，作者有效整合了丰富的多学科知识，以满足增强现实场景下的 XAI 设计需求，并为设计师提供了一个系统化的工具。