分布式人工智能对搜救团队信任与协作的影响

文献标题

The Influence of Distributed AI in Trust and Collaboration for Search-and-Rescue Teams

出版信息

• 主题领域: 高风险搜索与救援（SAR）行动中的人机协作。
• 关键词: 分布式人工智能、人工智能信任、搜索与救援、Wizard-of-Oz、人机协作、决策、情境感知、信任校准、极端意义建构、多智能体系统。

背景与问题

• 问题/挑战: 搜索与救援（SAR）团队在极端意义建构中面临挑战，需要在不确定性和信息不完整的情况下快速决策。虽然人工智能系统承诺可以增强感知和协调能力，但其整合可能带来诸如行为不可解释、可靠性不一致以及认知负担等问题。现有研究缺乏关于分布式人工智能系统如何影响团队环境中的信任与协作的深入洞察。
• 重要性: 在SAR中有效整合人工智能可以通过提高决策速度和准确性来挽救生命，尤其是在时间紧迫的情况下。理解分布式人工智能系统中的信任动态对于设计可扩展且可靠的SAR工具及类似领域的工具至关重要。
• 动机与相关工作: 先前关于人机协作的研究已探讨了信任与可解释性，但往往专注于个体或系统层面的交互，而忽略了团队环境中的多智能体背景。现有的Wizard-of-Oz（WoZ）方法很少涉及分布式人工智能系统，因此在理解信任与协作如何在这些环境中演变方面存在空白。

解决方案

• 提出的方法: “Council of Wizards”（CoW）技术是一种多智能体Wizard-of-Oz框架，用于模拟分布式人工智能系统，以研究SAR场景中的团队协作、信任和决策。
• 创新点:
  1. 引入CoW技术以模拟具有多种感知模式的分布式人工智能协作。
  2. 对人工智能辅助的SAR团队进行实证评估，展示其更快的共识构建能力及信任校准的洞察。
  3. 提出在极端意义建构环境中设计可信人工智能系统的建议。
• 流程与关键技术:
  • 开发了基于场景驱动的SAR模拟，使用预录视频片段结合人工智能生成的目标检测和信任叠加层。
  • 进行实验，参与者包括24位SAR、执法和安全领域的主题专家（SMEs），分为人工智能辅助组和对照组。
  • 使用诸如决策时间（TTD）、交互率（IR）、共享线索率（SCR）和平均信任评分（ATS）等指标衡量团队表现。
  • 通过研究后问卷收集定性反馈，以分析协作动态及对人工智能可信度的感知。

结果

• 具体发现:
  • 人工智能辅助团队比对照组显著更快地达成共识（平均TTD：55.5秒 vs. 134.3秒，p = 0.0092）。
  • 信任评估影响了决策效率，中等信任配置实现了更高的聚合信任评分（例如，Session 5中的ATSAgg = 0.51）。
  • 早期场景中的交互率较高，不同角色之间的线索共享动态存在差异。
• 相较基线的优势:
  • 人工智能辅助团队显示出较低的决策延迟和更流畅的协作，而对照组更多依赖个人启发式方法和较长时间的讨论。
  • 共享的人工智能线索提供了对齐锚点，减少了对层级或经验驱动协调的需求。
• 实验/评估:
  • 使用CoW技术进行了八场SAR实验（四场人工智能辅助组，四场对照组）。
  • 定量指标（如TTD、IR、SCR、ATS）与研究后调查的定性反馈相结合。
  • 人工智能模型（YOLOv11和HydroVision）生成目标检测和环境分类叠加层，信任评分通过PerceptiSync框架计算。
• 局限性与未来工作:
  • 研究使用模拟SAR场景，无法完全复制真实世界的不可预测性。
  • 信任评估并非对所有参与者都具有普遍影响，有些参与者更依赖个人判断。
  • 未来工作应探索基于实地的研究、被试内设计，以及包括异常检测或自然语言摘要在内的其他模式。

总结

本文引入了“Council of Wizards”（CoW）技术，以研究SAR场景中的分布式人工智能协作，发现人工智能辅助团队相比对照组能够更快达成共识并实现更流畅的协作。信任评估和共享的人工智能线索增强了团队对齐和决策效率，尽管其影响在参与者之间有所差异。研究强调了多智能体WoZ方法在设计极端意义建构环境中的可信人工智能系统中的潜力。未来研究应将这些发现扩展到真实世界环境，并探索自适应信任机制以优化人机协作。