《应该信任你还是信任人工智能？》——混合人机团队中领导者的信任与感知研究

文献标题

"Should I Rely on You or the AI? Leaders' Trust and Perceptions in Mixed Human-AI Teams"

出版信息

• 主题领域: 层级混合团队中的人机协作。
• 关键词: 人机团队、信任、领导力、能力、诚信、层级团队、混合团队、人机协作、ABI框架、BW4T测试平台。

背景与问题

• 问题/挑战: 对层级混合人机团队的理解有限，尤其是人类领导者如何根据能力和诚信管理并信任人类与代理跟随者。
• 重要性: 随着自主代理在工业和组织环境中与人类协作的日益增多，理解信任动态对于人机团队的有效协调和采用至关重要。
• 动机与相关研究: 现有研究主要集中于二元人机交互或同质团队，尚未充分探讨层级混合团队。ABI框架已被应用于自动化信任，但其在层级混合团队中的作用仍需进一步研究。

解决方案

• 提出的方法: 使用BW4T测试平台进行实验室研究，模拟层级混合人机团队，基于能力和诚信研究领导者对人类和代理跟随者的信任与感知。
• 创新点:
  1. 对层级混合人机团队信任动态的实证研究。
  2. 识别影响领导者评估的能力和诚信相关主题。
  3. 混合方法分析领导者对人类与代理跟随者的偏好及定性反思。
• 实验流程与关键技术:
  • 团队由一名人类领导者、一名人类跟随者和两名代理跟随者组成，完成一个搬运方块任务。
  • 代理分为三种类型：高诚信-高能力（HI-HA）、高诚信-低能力（HI-LA）、低诚信-高能力（LI-HA）。
  • 通过问卷调查、任务完成时间和主题分析测量信任、表现、偏好及定性评论，涵盖六种实验条件。

结果

• 具体发现:
  • 人类跟随者的信任在各条件下保持稳定且较高，而代理跟随者的信任因类型显著变化（HI-HA > HI-LA > LI-HA）。
  • 领导者更偏好人类跟随者，即使代理表现出更高的能力和诚信。
  • 团队信任与代理跟随者的信任一致，在“双HI-HA”条件下最高，在“双LI-HA”条件下最低。
  • 任务完成时间在“双HI-HA”条件下最短，在“双HI-LA”条件下最长。
• 相较基线的优势:
  • 尽管代理具有更高的记忆力和可靠性，人类跟随者仍被优先选择，突显适应性和群体相似性的重要性。
  • HI-LA代理比LI-HA代理更受信任，强调诚信在代理信任中的关键作用。
• 实验/评估:
  • 参与者：72人（36名领导者）。
  • 测量指标：信任评分、任务完成时间、偏好得分、定性评论的主题分析。
  • 操作变量：代理能力（记忆容量）和诚信（指令遵从性）。
• 局限性与未来工作:
  • 研究集中于领导者视角，未来应纳入跟随者数据。
  • 仅限于2H-2A团队结构，需探索其他构成及共领导情境。
  • 使用基于规则的代理，未来研究应考察由LLM驱动的更复杂AI角色。
  • 短期研究，需调查善意和社会动态的长期影响。

总结

本研究探讨了层级混合人机团队中的信任与感知，揭示了领导者对人类与代理跟随者的不同期望。人类领导者因人类跟随者的适应性和主动行为而持续偏好他们，而对代理的信任则高度依赖其诚信。研究结果强调了人机团队设计需结合人类的情境灵活性与代理的可控性和精确性。未来研究应探索多样化团队结构、长期动态及高级AI角色，以优化混合人机协作。