如何支持用户理解智能系统？：结构化讨论

文献标题

如何支持用户理解智能系统？结构化讨论

文献信息

• 主题领域: 人机交互 (HCI)、智能系统用户体验与可解释性研究
• 关键词: 智能系统、可解释性、透明性、可审查性、清晰性、问责性、交互式机器学习、终端用户调试

研究背景与问题

• 研究背景

  • 智能系统的“黑箱”属性（即结果难以预测、错误纠正不易）违反了传统用户界面设计原则，因此难以被设计、理解和使用。
  • 越来越多的研究者、从业者和政策制定者呼吁提高智能系统的透明性、可解释性和可审查性，以支持用户对系统的理解。
  • 现有关于透明性、可解释性等系统属性的研究中，术语使用和概念定义常存在分歧，阻碍了这一领域的进一步发展。

• 研究问题

  • 用户与智能系统交互时，研究者对系统属性的潜在假设是什么？
  • 如何对这些假设进行结构化和区分？

• 研究重要性

  • 解决智能系统“黑箱”问题，对于提升用户信任度并通过优化交互设计提高用户体验至关重要。
  • 澄清术语与概念的模糊性有助于研究的严谨性与连贯性，支持开发更具可解释性和人性化的智能系统。

解决方案

• 方法概述

  • 本文回顾了人机交互 (HCI) 文献中的用户问题，通过归纳用户心理模式、用户参与形式及知识获取类型，提出了概念框架，旨在结构化地讨论如何支持用户理解智能系统。

• 框架核心

  1. 用户心理模式 (User Mindsets)：探索用户希望了解系统的哪些方面。
     • 实用性：用户寻求了解和预测系统行为以实现特定目标。
     • 解释性：用户希望理解系统输出与自身经验之间的关系。
     • 批判性：用户关注系统的法律、伦理及社会影响。
  2. 用户参与形式 (User Involvement)：探索信息交互方向。
     • 主动模式：用户向系统提供输入或反馈（例如调试和纠正错误）。
     • 被动模式：用户从系统获得信息（例如系统如何作出决策的解释）。
  3. 知识获取结果 (Knowledge Outcomes)：明晰用户从系统中获得的知识类型。
     • 输出知识：针对某个特定输出的理解（如推荐结果）。
     • 过程知识：关于系统运行流程的整体理解（如神经网络）。
     • 交互知识：用户如何操作系统（如提供反馈）。
     • 元认知知识：超越直接交互情境的知识（如系统开发背景）。

• 创新之处

  • 将用户的问题与智能系统的多样属性联系起来，构建了一个统一的视角来梳理和比较现有研究。
  • 提出了一种实用和严谨的方法来揭示和克服领域内的概念歧义。

• 实施方式

  1. 文献采样：回顾222篇关于关键系统属性（如透明性、可解释性）相关文献。
  2. 编码与解读：通过用户问题轴心进行开放式编码、轴心编码和选择性编码以形成框架。
  3. 框架验证：通过实际应用示例演示框架的可操作性和解释力。

研究成果

• 框架应用

  • 框架适用于回顾和分类现有工作，同时能指导未来设计更好的用户界面和系统交互模式。
  • 例如通过将用户模式映射到具体应用中（如推荐系统交互设计），实现针对性优化。

• 对比现有解决方案的优势

  • 框架清晰揭示了现有文献中隐含的概念分歧和连接，便于统一术语使用。
  • 支持研究者从用户角度明确提出正确的问题，以设计更切合实际需求的智能交互界面。

• 实验验证

  • 提供了关于知识获取结果的全面分类（输出、过程、交互、元认知知识）。
  • 提供了具体的设计建议（如多模式解释界面）以支持不同使用场景中的用户需求。

• 局限性与未来方向

  • 框架保留一定局限性，包括数据集偏重于 ACM Digital Library 引文，以及未能涵盖所有可能的智能系统特性。
  • 未来需进一步验证框架在实际产品设计与商业应用场景中的利用价值。
  • 建议进一步跨领域合作（如传播学、政策研究、伦理学）以推动对社会影响更全面的理解。