作为幻肢的人工智能：人与人工智能委派中归因的不对称性

文献标题

AI as the Phantom Limb: The Asymmetry of Attribution in Human vs. AI Delegation

出版信息

• 主题领域: 人机交互中的任务委托与责任归因。
• 关键词: 人机交互、任务委托、信任、责任归因、心理距离、反馈情感、AI幻肢效应、能力。

背景与问题

• 问题/挑战: 现有关于人机交互中任务委托的研究尚未系统探讨人们在将任务委托给人工智能与人类助手时如何不同地感知责任、信任和反馈。
• 重要性: 随着人工智能系统在工作场所中越来越多地充当协作者，了解这些动态对于影响人际关系和责任感知至关重要。
• 动机与相关研究: 以往研究已经探讨了对人工智能的信任以及任务委托决策，但尚未关注人类与人工智能助手在反馈和责任归因上的差异。本研究旨在填补关于人机任务委托心理和社会影响的理解空白。

解决方案

• 提出的方法: 采用2×2×2实验设计，研究参与者在不同能力（高 vs. 低）和反馈情感（正面 vs. 负面）条件下，将任务委托给人类与人工智能助手时对信任、心理距离、反馈和责任归因的感知。
• 创新点:
  1. 识别“AI幻肢效应”：参与者将针对人工智能助手的负面反馈内化为自我导向，但对正面反馈却没有对称的内化。
  2. 区分人机协作中的责任与问责。
  3. 提供实证证据，揭示能力和反馈情感如何影响信任、心理距离和责任归因。
• 实验过程与关键技术:
  1. 参与者将一个日程安排任务委托给人类或人工智能助手。
  2. 通过谈判延迟和结果操控能力（高能力=更快，获得理想时间段；低能力=更慢，获得非理想时间段）。
  3. 通过客户反馈操控反馈情感（正面或负面）。
  4. 依变量包括信任（通过验证量表）、心理距离、责任归因和自我导向反馈感知。

结果

• 具体发现:
  • 对人类助手的信任较高（M = 3.09），相比人工智能助手（M = 2.69）；对高能力助手的信任较高（M = 3.57），相比低能力助手（M = 2.22）；对收到正面反馈的助手信任较高（M = 3.28），相比负面反馈（M = 2.50）。
  • 对人类助手的心理距离较低（M = 3.62），相比人工智能助手（M = 3.87）；对高能力助手的心理距离较低（M = 3.37），相比低能力助手（M = 4.11）；对收到正面反馈的助手心理距离较低（M = 3.42），相比负面反馈（M = 4.07）。
  • 参与者将针对人工智能助手的负面反馈内化为更自我导向（Mnegative = 3.81），相比正面反馈（Mpositive = 3.36）；这种不对称性在人类助手中未观察到。
  • 责任更常归因于助手（均值约50%），而非参与者自身（约22%），尤其是在低能力或负面反馈条件下。
• 相较基线的优势:
  • 研究揭示了人工智能特有的反馈感知和责任归因的不对称性，这在人类任务委托场景中未显现。
• 实验/评估:
  • 参与者: 通过Prolific招募的355名个体。
  • 设计: 2×2×2被试间实验，操控助手类型（人类 vs. 人工智能）、能力（高 vs. 低）和反馈情感（正面 vs. 负面）。
  • 评估指标: 信任（通过验证量表）、心理距离、责任归因和自我导向反馈感知。
• 局限性与未来工作:
  • 简化的在线实验缺乏生态效度，未能捕捉现实世界中能力权衡的复杂性。
  • 样本仅限于来自个人主义文化的英语使用者。
  • 未来工作应探索更丰富的、情境感知的实验范式、文化差异以及人机协作中的纵向动态。

摘要

本研究探讨了人们在将任务委托给人类与人工智能助手时对信任、心理距离、反馈和责任归因的感知。主要发现包括“AI幻肢效应”，即参与者将针对人工智能助手的负面反馈内化为自我导向，但对正面反馈却没有对称的内化。对人类和高能力助手的信任及心理距离较高，而责任更常归因于助手，尤其是在低能力或负面反馈条件下。这些发现对设计能够明确责任和问责的人工智能系统具有重要意义，有助于促进更健康的人机协作关系。