用自己的方式解释它 - 与公共部门的AI最终用户共同创作设计可解释AI应用的工作坊成果

文献标题

Explaining It Your Way - Findings from a Co-Creative Design Workshop on Designing XAI Applications with AI End-Users from the Public Sector

文献信息

• 主题领域: 人机交互 (HCI)、可解释人工智能 (XAI)、公共部门中的人工智能应用设计
• 关键词: 人类中心人工智能, 可解释人工智能, 用户中心设计, 共创, 焦点小组, 社会评估, 失业保险

研究背景与问题

• 问题与挑战:

  1. 人工智能的复杂性和不透明性导致公共部门用户在理解和信任基于人工智能的系统决策时遇到困难。
  2. 当前公共部门的人工智能系统设计缺乏用户中心视角，尤其是针对最终用户(例如失业顾问)。
  3. 很少有工作将公共领域的专业用户直接纳入可解释人工智能设计过程。

• 重要性: 在社会服务领域，人工智能的决策对于个人生活具有重大影响。透明且可解释的人工智能设计不仅有助于提高用户接受度和信任度，而且有利于确保公平性和伦理合规性。

• 研究动机与相关工作:

  1. 可解释人工智能(XAI)的目标是在人工智能深度学习模型的"黑箱"问题中，提供透明的决策解释。
  2. 目前公共部门的XAI研究主要集中于应用现有技术(如LIME或SHAP)，而非开发新的、针对实际需求的方法。
  3. 将最终用户纳入设计过程有助于改进人工智能应用的实用性和社会影响。

解决方案

• 方法或解决方案: 作者采用共创工作坊的方法，与来自爱沙尼亚公共部门的失业顾问共同设计人工智能用户界面。

  1. 结合用户中心设计流程和问题驱动的XAI设计原则，通过分步骤的引导，从用户需求、痛点到界面原型设计。
  2. 使用爱沙尼亚社会服务中的人工智能工具OTT，探索如何通过解释性界面改进用户体验。

• 创新之处:

  1. 此项研究首次将公共部门专业用户直接纳入可解释人工智能界面设计流程。
  2. 提出了使用文本而非图形作为解释性界面的主要交互方式，以减少认知负荷。
  3. 提供实用的设计框架和具体建议，为长期的公共部门服务人工智能应用开发方向提供支持。

• 实施步骤:

  1. Persona 定义与用户旅程映射: 为AI用户建立用户画像并完成工作流分析。
  2. 痛点问题合成与验证: 发现与OTT系统相关的问题并分类(如数据缺失、界面复杂性、系统缺乏同理心)。
  3. 原型设计: 为痛点问题设计纸质界面原型，采纳用户反馈进行迭代。
  4. 焦点小组讨论: 面向参与者回顾工作坊并获取对OTT接受度及改进建议的深度反馈。

研究成果

• 具体成果:

  1. 设计了两个纸质原型，用于提高OTT系统的解释性与用户接受度。
  2. 提出了三类需要满足的用户需求：
     • 提供预测原因的解释
     • 提供改进建议
     • 提供全球和本地的透明性培训课程
  3. 强调文本解释性界面比图形界面更适用于繁忙的失业顾问工作流。

• 优势:

  1. 共创方法增加了用户对OTT的接受与理解，促进了用户对人工智能工具的信任。
  2. 结果表明，将用户直接纳入设计过程可以发现原先未被明确识别的问题，并开发出实际可行的解决方案。

• 实验或评估结果:

  1. 参与者的反馈表明，新设计可以显著降低对OTT预测结果的误解风险。
  2. 用户体验得到了改善，尤其是在理解性和实用性方面。

• 局限性与未来方向:

  1. 局限性:
     • 由于时间限制，只能集中解决一个痛点。
     • 参与者只能提供有限的背景知识，可能对设计过程构成一定约束。
  2. 未来方向:
     • 提倡增加用户作为主要设计人员的参与程度。
     • 探讨如何将参与者的反馈直接整合至人工智能模型中。
     • 针对其他公共部门应用案例扩展共创方法的适用性。

推荐建议

1. 在公共部门人工智能的设计中，关注服务对象的需求，而不仅仅是服务使用者的需求，以提高社会效益。
2. 考虑特定文化和伦理背景，设计符合本地用户接受度的人工智能系统。
3. 在系统设计初期，与原始开发者交流以明确约束条件，从而更有效地进行二次改进设计。
4. 提升用户教育课程的质量，涵盖人工智能公平性、伦理性及原理性培训内容。