TEAMMAIT中没有“我”：领域和专业知识对心理健康工作中AI队友信任的影响

美国的心理健康危机凸显了对心理健康工作者进行更规模化培训的必要性。虽然当前的AI系统为解决这一问题带来了希望，但我们不能太快地incorporate或仅关注技术进步。我们必须问一些实证性问题，探讨如何合乎伦理地协作并将自主AI整合到临床工作场所。对于准备进入心理健康领域的人机自治团队（HATs），需要对信任这一构念进行特殊考虑。回顾这些HAT项目的多学科性质，需要更深入地研究利益相关者对道德和信任的不同看法。本文研究了领域——以及领域内的专业知识范围——对心理健康HATs中与道德和信任相关考虑的影响。我们概述了与23名参与者参与的两项推测性活动：设计虚构和因素调查问卷。基于视频故事板原型，AI和心理治疗领域的专家和新手都想象了TEAMMAIT，一个用于心理治疗培训的未来AI系统。通过归纳分析，我们出现了10个围绕道德、信任和协作的主题。其中三个可以被视为信任和协作的重大障碍，参与者想象他们不会与不符合这些道德标准的AI队友合作。另外五个主题可以被视为相互关联的、情境依赖的信任变量，这些变量会影响与AI队友的协作。最后两个主题代表了对AI队友在心理治疗培训实践中预期角色的更明确参与。我们通过Mayer等人组织信任整合模型的视角来评估我们的发现，讨论HAT的风险，并调整基于能力、善意和诚信的信任模型。这些更新为心理健康工作中HAT的设计和整合提供了启示。