理解人-AI团队中信任的动态演变

DOI

人类-AI团队（HATs）的成功需要人类与AI成员在特定时期内以信任的方式合作。然而，人-AI团队中信任如何随互动动态演变尚未得到充分研究。这项工作通过分析45名参与者在三人人-AI团队中与AI合作之前、期间和之后的AI队友信任或不信任何体验，探究了HAT中信任的演变。我们的发现强调了人类对AI能力、诚信、善意和适应性的期望影响他们在合作前对AI的初始信任。然而，这种初始信任可以通过在合作过程中根据AI队友的沟通行为发展情境信任来维持或修订。此外，通过合作建立的信任可以影响个体对AI能力的后续期望以及他们与AI的合作。我们的发现还揭示了AI和人类队友在信任时间维度上的相似性和差异。我们为CSCW社区做出了贡献，提供了首批对人-AI团队中信任动态和时间维度演变的实证研究之一。我们的工作为扩展研究人-AI团队信任发展的方法论工具箱、构建人-AI团队情境信任理论提供了洞见。这些洞见进一步为有效设计AI队友提供信息，并为未来人-AI协作情境中校准信任的时机、内容和方法提供指导。