AI委托中的信任形成：可解释性与拟人化的相互作用

文献标题

Trust Formation in AI Delegation: The Interplay of Explainability and Anthropomorphism

出版信息

• 主题领域: 人工智能与人类交互及信任形成机制
• 关键词: 可解释人工智能 (XAI), 拟人化, 信任形成, 认知参与, 眼动追踪, 人机交互, 双重加工理论, 认知负荷, 用户体验, 人工智能委托

背景与问题

• 问题 / 挑战: 可解释性 (XAI) 与拟人化在人工智能信任建立中的相互作用尚不明确。以往研究通常单独研究这些策略，未能揭示它们的联合效应，尤其是它们是协同还是相互干扰。
• 重要性: 理解这种相互作用对于设计能够建立适度信任的人工智能系统至关重要，特别是在金融规划、医疗诊断和电子商务等高风险应用中。
• 动机与相关工作: XAI 通过使人工智能逻辑透明来增强认知信任，而拟人化通过人类化线索促进情感信任。然而，这些策略可能会竞争用户注意力，导致认知过载。现有研究主要依赖自我报告，未能捕捉实时认知机制，而本文通过眼动追踪技术解决这一问题。

解决方案

• 提出的方法: 结合大规模在线实验和眼动追踪实验的混合方法研究，探讨 XAI 和拟人化对信任的交互效应。
• 创新点:
  1. 阐明 XAI 和拟人化之间的情境依赖交互作用，显示在低参与情境中存在干扰，而在高参与情境中表现出协同作用。
  2. 使用眼动追踪揭示驱动这些效应的实时认知机制。
  3. 提出情境依赖交互框架 (Context-Dependent Interaction Framework)，为人工智能界面设计提供指导。
• 研究流程与关键技术:
  • 研究1: 在线实验 (N=900)，采用2x2因子设计测试 XAI 和拟人化在低参与情境下对信任的影响。
  • 研究2: 实验室实验 (N=57)，结合眼动追踪技术，在高参与情境下验证研究1的发现，并探索注意力机制。
  • 关键指标: 预算分配（行为信任）、感知能力、注视时长、视线转移和瞳孔扩张。

研究结果

• 具体发现:
  • 研究1: 在低参与的在线情境中，XAI 和拟人化分别独立提高了信任，但它们的结合导致干扰，相较于仅使用 XAI，信任度有所下降。
  • 研究2: 在高参与的实验室情境中，结合 XAI 和拟人化的混合代理表现出最高的信任度，显示出协同效应。
  • 眼动追踪结果表明，XAI 增强了认知参与（如更长的注视时长），从而将注意力引向拟人化线索，使其能够整合到信任判断中。
• 相较基线的优势:
  • 在两项研究中，仅使用 XAI 的代理始终优于控制组和仅使用拟人化的代理。
  • 在高参与情境中，混合代理优于所有其他代理，预算分配提高了34.81个百分点，感知能力提高了0.88分。
• 实验 / 评估:
  • 研究1: 在线实验，任务为购物，通过预算分配和信任量表测量信任。
  • 研究2: 实验室实验，结合眼动追踪技术，分析注视模式、视线转移和瞳孔扩张，以揭示认知机制。
• 局限性与未来工作:
  • 由于任务（购物）和模式（文本与静态头像）的特定性，研究结果的普适性有限。
  • 需要在更广泛的人群和高风险领域（如医疗、金融）中进行重复验证。
  • 未来研究应在单一范式中操控参与水平，并探索重复交互中的信任动态。

总结

本文研究了可解释性 (XAI) 和拟人化在人工智能信任形成中的相互作用，揭示了情境依赖效应。在低参与的在线情境中，这些线索相互干扰，而在高参与的实验室情境中，它们表现出协同作用。眼动追踪数据显示，XAI 激活了认知参与，使用户能够将拟人化线索整合到信任判断中。提出的情境依赖交互框架为根据用户参与水平定制人工智能系统设计提供了可操作的见解，对人机交互的多种应用具有重要意义。