人机交互中的关系失调：以知识工作者为例

文献标题

Relational Dissonance in Human-AI Interactions: The Case of Knowledge Work

出版信息

• 主题领域: 知识工作中的人机交互
• 关键词: 关系失调、人机交互、拟人化对话代理、知识工作、定性研究、关系透明性、本体模糊性、关系模糊性、人机交互、人工智能治理

背景与问题

• 问题/挑战: 现有的人机交互（HCI）框架无法充分描述人类与拟人化对话代理交互时产生的关系动态。这些系统通过将工具功能与人类关系线索相结合，挑战了既有的概念类别，导致难以维持一致的关系立场。
• 意义: 理解这些动态对知识工作至关重要，因为在这一领域，AI系统正越来越多地被用于需要人类能动性、控制力和解释能力的任务。关系动态的不匹配可能带来心理、关系和职业上的后果。
• 动机与相关工作: 先前的研究探讨了AI的工具性使用、其关系效应及其拟人化特质。然而，这些研究通常未能捕捉人机交互中动态的、隐性的关系协商。本论文通过引入关系失调这一概念来填补这一空白。

解决方案

• 提出的方法: 作者提出了关系失调这一新的分析概念，用于描述个体对AI系统的显性框定与交互过程中关系动态之间的分歧。
• 创新性:
  1. 引入关系失调作为理解人机交互的理论框架。
  2. 开发了一种多层次的研讨会方法来研究关系动态。
  3. 提供了关系失调在定性研究领域的表现形式的洞见，该领域对人类能动性和控制力有较高要求。
• 过程与关键技术:
  • 组织了三场研讨会，参与者为22名定性研究人员，结合了个人和小组活动。
  • 使用解释性现象学分析（IPA）和主题分析（TA）研究个体和集体的关系动态。
  • 分析了会前调查、聊天记录、图像选择练习、小组讨论和工作表，以识别关系配置和动态。

结果

• 具体发现:
  • 识别出五种关系配置：指导者、训练者、合作伙伴、学生和消费者。
  • 观察到交互过程中频繁的配置转换，这些转换由人类和AI的行为共同驱动。
  • 记录了关系失调作为用户将AI显性框定为工具与隐性关系动态之间的持续张力。
• 相较基线的优势:
  • 提供了一个捕捉动态关系转换的细致框架，与之前静态的基于角色的模型不同。
  • 突出了在现有HCI研究中常被忽视的导航人机交互所需的关系工作。
• 实验/评估:
  • 研讨会包括会前调查、AI交互任务实践、同伴观察、隐喻引导、小组讨论和协作练习。
  • 数据来源包括调查问卷、聊天记录、选定的视觉隐喻和小组讨论的转录内容。
  • 分析揭示了关系失调的模式以及通过深度、不确定性和他者化等主题进行的集体意义建构。
• 局限性与未来工作:
  • 概念局限性：需要对关系失调进行量化测量，并在不同背景下进一步验证。
  • 方法局限性：人工的研讨会环境和较短的交互时间可能影响了研究结果。
  • 实证局限性：结果特定于定性研究人员，可能无法推广到其他人群或任务。
  • 未来工作：开展纵向研究、开发量化测量方法，并探索系统设计和治理中的关系透明性。

总结

本文引入了关系失调这一框架，用于理解人机交互中的隐性动态，特别是在知识工作领域。通过与定性研究人员的研讨会研究，揭示了与拟人化对话代理交互过程中关系动态的出现和转换，这些动态往往与用户的显性意图相背离。研究结果强调了关系透明性的重要性，以解决这些交互中固有的张力和关系工作。本研究为设计更好地考虑人机交互关系复杂性的AI系统和政策奠定了基础。