人们是否适当依赖人工智能建议？人机交互研究中关于人机决策的分析综述

文献标题

Do People Appropriately Rely on AI-Advice? An Analytical Review of HCI Research on Human-AI Decision-Making

出版信息

• 主题领域：人机交互与决策
• 关键词：人机依赖、适当依赖、过度依赖、不足依赖、决策、可解释人工智能（XAI）、认知偏差、用户参与、交互设计、人机交互（HCI）

背景与问题

• 问题/挑战：现有关于人类对人工智能依赖的研究通常缺乏现实的决策场景，导致对用户如何适当依赖人工智能建议的理解存在空白。此外，对于“适当依赖”的定义和衡量标准尚无共识。
• 重要性：理解并促进对人工智能建议的适当依赖对于改善医疗、金融、司法等高风险领域的决策至关重要，这些领域对责任和伦理问题尤为关注。
• 动机与相关工作：此前的研究探讨了自动化信任、可解释人工智能（XAI）以及用户偏差，但往往未能解决用户如何区分正确与错误的人工智能建议或如何根据建议调整决策的问题。本文在现有研究的基础上，重点关注近期研究以及人机依赖的客观指标。

解决方案

• 提出的方法：对2018年至2025年间关于人机依赖的56项研究进行分析性综述，重点研究用户、人工智能系统及交互方法，以整合研究成果并提供促进适当依赖的建议。
• 创新点：
  1. 对近期关于人机依赖的实证研究进行全面分析，涵盖多领域和多方法。
  2. 讨论并倡导对“适当依赖”的统一定义。
  3. 识别研究空白，并提出通过用户参与、任务设计及交互策略改善依赖的建议。
• 流程与关键技术：
  • 使用SCOPUS和ACM数字图书馆，通过PRISMA框架进行系统性综述。
  • 按依赖指标、实验设计、参与者专业水平及人工智能系统真实性对研究进行分类。
  • 分析干预措施及其对依赖的影响，包括认知强制、XAI方法及用户参与策略。

结果

• 具体发现：
  • 71%的研究使用多步骤决策协议，允许用户在查看人工智能建议后修订决策。
  • 常用指标包括决策准确性（35项研究）、一致性比例（21项研究）及切换比例（15项研究）。
  • 大多数研究涉及初学者参与者（48/56），通常通过众包平台招募。
  • 33%的研究使用模拟人工智能系统，导致研究结果的现实性受到质疑。
• 相较基线的优势：
  • 提出了如相对人工智能依赖（RAIR）及相对自我依赖（RSR）等定制化指标，更好地捕捉适当依赖。
  • 突出了认知强制及摩擦性设计在减少过度依赖方面的有效性。
• 实验/评估：
  • 研究涵盖医疗、商业、教育及休闲等领域，任务包括医疗诊断到情感分析。
  • 大多数研究依赖众包工人，涉及领域专家或现实任务的比例有限。
• 局限性与未来工作：
  • 过度依赖初学者参与者及模拟人工智能系统限制了研究的普适性。
  • 缺乏适当依赖的标准化指标及定义。
  • 未来工作应聚焦现实任务、领域专业知识及分层交互设计。

总结

本文综述了56项关于人机依赖的研究，强调了现实决策场景的不足及适当依赖指标缺乏共识的问题。研究识别了影响依赖的关键因素，包括用户偏差、任务复杂性及交互设计。结果强调了多步骤决策协议、RAIR和RSR等定制化指标及认知强制等干预措施在改善依赖方面的重要性。然而，对初学者参与者及模拟人工智能系统的依赖限制了当前研究的适用性。未来工作应优先考虑现实任务、领域专业知识及反思性交互设计，以更好地理解并促进对人工智能建议的适当依赖。