在人机团队中信任自主队友——文献综述

研究背景与问题

• 发现的问题或挑战: 随着人工智能（AI）日益融入人类团队形成“人类-AI团队”（Human-AI Teams, HATs），信任在这些团队的成功中扮演了关键角色。然而，现有研究对人类信任其AI队友的定义和测量缺乏一致性，这限制了理论发展并阻碍了实践中AI系统设计的优化。此外，多数研究集中于单人类与单AI队友的简单团队设置，缺乏关于多成员团队和复杂任务背景的探索。

• 重要性: AI正在从工具转变为团队成员，这种新型角色需要在团队层面设计具备互依性和社会功能的系统。信任的缺失可能导致人类对AI的不适当依赖或完全拒绝AI干预，影响工作效率及团队目标实现。

• 研究动机与相关工作: 以往研究强调信任在自动化和人类团队合作中的重要性，但对AI作为“队友”角色的信任认知尚未形成统一理解。本研究旨在填补这一领域的研究空白，通过整合信任概念，并提供一套准则用于未来研究。

解决方案

• 方法与解决方案: 作者进行了一项系统文献综述，分析了影响人类信任AI队友的因素，并研究信任的定义、测量方式和操作层面的不一致性。主要的研究问题包括：

  1. 信任在HAT研究中如何定义和操作化？
  2. 哪些因素影响HAT中的信任？它们的影响力如何？

• 创新之处: 本研究提出了一个基于“功能化-人际化信任”的连续体框架，将信任定义融合了AI的技术能力和社会能力。此外，作者通过元分析量化了57篇文献中信任影响因素的效果大小，并提出信任的动态测量框架以捕捉信任的实时变化。

• 实施步骤与技术:

  1. 使用PRISMA指南进行文献检索和筛选，从ACM、IEEE等数据库中选取2008至2022年间的57篇相关研究。
  2. 按AI代理、人类参与者、团队动态及环境特征对信任影响因素进行分类。
  3. 提出信任连续体理念，并分析功能性（performance-based）和行为性（behavior-based）因素对信任评价的不同影响。

研究成果

• 具体成果:

  1. 整合了关于HATs中信任的现有知识并分类了影响因素（如可靠性、透明度、行为风格）。
  2. 明确了信任的概念与测量之间的差异，阐明了研究过程中信任“工具化”与“队友化”之间的误区。
  3. 通过元分析揭示了几个关键因素（如可靠性）的显著影响，并量化了整体影响效应（Cohen's d）。

• 与现有解决方案的优势:

  • 使用多维度框架捕捉信任的动态变化，为人类与AI队伍的设计提供理论依据。
  • 提供了信任的操作准则，促进未来研究的一致性。
  • 将信任定位为团队动态中的核心要素，而非仅是AI性能评价。

• 实验或评估结果: 元分析结果显示，影响信任的最强因素是AI队友的可靠性（Cohen's d = 1.13，显著影响），其次是透明度（影响较小，d = 0.31）。行为因素如歉意和责任归因也表现出显著效果。

• 局限性与未来方向:

  1. 当前研究多局限于两成员团队（单人类与单AI），缺乏对复杂团队的探索。未来需关注多成员团队的信任传染效应和动态变化。
  2. 目前研究集中于军事和紧急任务上下文，应扩展至创意合作和决策任务，研究不同任务类型对AI队友的信任要求。
  3. 呼吁在HAT中全面实施自然语言处理技术，以探索交互能力对信任的影响。
  4. 极少研究在全球南方背景下开展，未来需考虑跨文化视角对信任构建的影响。

总结

本研究提供了关于HAT信任的系统文献综述，并首次提出信任连续体框架，从功能性与社会性维度全面分析AI队友如何影响团队动态。通过整合现有知识，研究为未来的信任测量、团队设计和动态调整提供了规范与方向，同时揭示了诸多未开发领域，尤其是更复杂团队、任务类型以及跨文化适应的需求。这对AI在团队角色中的进一步发展具有深远意义。