牧师关于 AI 对话护理设计与使用的反思

文献标题

Chaplains' Reflections on the Design and Usage of AI for Conversational Care

出版信息

• 主题领域: 探讨牧师对用于非临床福祉支持的AI聊天机器人的看法。
• 关键词: AI聊天机器人、牧灵关怀、福祉、对话式AI、调谐、牧师、情感支持、倾听、连接、人类存在。

背景与问题

• 问题/挑战: 当前的对话式AI系统主要以临床专业知识为设计基础，侧重于诊断和干预，却无法满足牧师提供的非临床情感支持需求，例如倾听、连接和分担情感负担。
• 重要性: 理解牧师的观点可以为AI聊天机器人的设计提供指导，从而更好地支持非临床环境中的福祉需求，弥补情感和关系关怀方面的空白。
• 动机与相关工作: 先前的研究探讨了AI聊天机器人在拟社会支持和心理健康应用中的作用，但很少关注牧师在牧灵关怀中的专业知识如何为聊天机器人设计提供启发。本研究通过分析牧师对AI聊天机器人的局限性和潜力的看法，填补了这一研究空白。

解决方案

• 提出的方法: 通过使用GPT Builder界面让牧师参与设计和反思AI聊天机器人，以探索他们对对话关怀和聊天机器人局限性的看法。
• 创新点:
  1. 将牧师作为领域专家引入非临床福祉AI聊天机器人的设计。
  2. 确定了四个关键主题——倾听、连接、分担和渴望，突出了聊天机器人在与人类牧灵关怀相比时的能力差距。
  3. 引入“调谐”概念，作为理解和改进关怀情境下聊天机器人设计的框架。
• 过程和关键技术:
  • 招募了18位北欧大学牧师，使用GPT Builder为虚构的学生角色设计和测试聊天机器人。
  • 进行了干预前后访谈，收集牧师对聊天机器人设计及其专业实践的反思。
  • 分析访谈记录，提取牧师对AI聊天机器人的观点主题和见解。

结果

• 具体发现:
  • 牧师对生成式AI的接受度评分中等（总体中位数评分：62.5/100）。
  • 四个主题浮现：
    1. 倾听: AI聊天机器人无法复制牧师提供的细腻、无议程的倾听。
    2. 连接: 聊天机器人缺乏实现真正连接所需的情感和物理存在。
    3. 分担: 聊天机器人无法承担责任或情感上承载用户的担忧。
    4. 渴望: 聊天机器人表现出急切（如快速响应、冗长输出），与牧师反思性、无目标的方式形成对比。
• 相较基线的优势: 提供了牧师的独特见解，与以往聚焦于临床或终端用户视角的研究形成对比。
• 实验/评估:
  • 每位牧师设计了四个聊天机器人，包括一个通用型和三个针对虚构学生角色（Maya、Leo、Samira）的定制型。
  • 通过访谈捕捉反思，并对其进行主题分析。
• 局限性与未来工作:
  • 由于北欧背景和样本量较小，研究结果的普适性有限。
  • 牧师对AI聊天机器人的经验较少，可能影响其设计。
  • 未来工作应包括终端用户，并探索基于牧师见解的交互式原型。

总结

本研究探讨了牧师如何看待和设计用于非临床福祉支持的AI聊天机器人，识别出聊天机器人在复制人类存在和关怀方面的关键局限性。四个主题——倾听、连接、分担和渴望——突出了聊天机器人设计与牧灵关怀实践之间的差距。引入了“调谐”概念，作为改进聊天机器人交互的框架。这些发现为设计更符合人类情感和关系需求的非临床关怀AI系统提供了宝贵的见解。未来工作应结合牧师的专业知识与终端用户的视角，开发更加调谐的对话式AI。