大型语言模型在同伴主导的社区行为健康服务中的应用：理解同伴专家与服务用户对机会、风险与缓解策略的视角

文献标题

Large Language Models in Peer-Run Community Behavioral Health Services: Understanding Peer Specialists and Service Users’ Perspectives on Opportunities, Risks, and Mitigation Strategies

出版信息

• 主题领域: 大型语言模型（LLMs）在同行主导的行为健康服务中的整合。
• 关键词: 大型语言模型，同行主导组织，行为健康，关系权威，信任，亲身经验，社区中心人工智能，缓解策略，共同设计，康复导向护理。

背景与问题

• 问题 / 挑战: 同行主导组织（PROs）面临系统性挑战，如资金不足、技术基础设施有限以及需求增长，这些问题阻碍了其服务扩展和改进的能力。在这些环境中引入LLMs引发了关于情境不匹配、关系侵蚀以及经验权威被取代的担忧。
• 重要性: PROs 为服务不足的群体提供关键的、康复导向的支持，解决行为健康差距问题。确保LLMs与同行支持的价值观和实践相一致，对于维护定义这些服务的关系权威和信任至关重要。
• 动机与相关工作: 尽管LLMs已被应用于行为健康领域，但现有系统往往缺乏社区参与，未能满足PROs的独特需求。人机交互（HCI）领域的现有研究已探讨了社区中心的人工智能设计，但很少关注同行主导的行为健康环境，因此对LLMs如何与康复导向的同行实践交叉仍存在理解上的空白。

解决方案

• 提出的方法: 本研究探讨了如何通过以亲身经验、关系权威和社区为基础的设计为中心，将LLMs整合到PROs中。研究采用了漫画板（comicboarding）作为共同设计方法，邀请同行专家和服务用户共同识别机会、风险和缓解策略。
• 创新性:
  1. 提供关于一线利益相关者如何看待LLMs在同行支持工作流程中整合的实证见解。
  2. 引入“亲身经验参与环”作为LLMs支持护理的设计原则。
  3. 提出可操作的设计启示，以使LLMs与康复导向、社区主导的实践保持一致。
• 过程与关键技术:
  • 与新泽西州协作支持计划（CSPNJ）合作，开展了16名同行专家和10名服务用户参与的研讨会。
  • 使用漫画板展示LLMs的能力、局限性和改进路径。
  • 探讨了三个张力：规模与情境性、信任与不信任、自主性与自动化。
  • 使用反思性主题分析法分析研讨会记录，识别主题和设计启示。

结果

• 具体发现:
  • 根据实施方式，LLMs可以维持、削弱或放大关系权威。
  • 参与者识别出三个关键张力：弥合规模与本地知识之间的差距、保护信任以及平衡自主性与自动化。
  • 机会包括改进资源导航、支持整体指导以及简化工作流程。
  • 风险包括情境盲目的建议、信任的侵蚀以及对自动化的过度依赖。
• 相较基线的优势: 本研究强调关系权威和亲身经验在LLMs设计中的核心地位，超越了传统的“人类参与环”框架，优先考虑社区为中心和康复导向的实践。
• 实验 / 评估:
  • 通过漫画板开展了九场研讨会和两次个人访谈。
  • 参与者在三个生命周期阶段反思了LLMs的机会、风险和缓解策略。
  • 数据分析揭示了与关系权威及其维护相关的主题。
• 局限性与未来工作:
  • 缺乏与实时LLM系统的直接互动可能限制了生态效度。
  • 研究集中于美国一个州的单一PRO，结果可能无法推广到其他环境。
  • 未来工作应包括实时演示、交互式原型以及对漫画板作为共同设计方法的评估。

总结

本研究探讨了大型语言模型（LLMs）在同行主导的行为健康服务中的整合，强调了关系权威和亲身经验的重要性。通过与同行专家和服务用户的研讨会，研究识别了机会（如增强资源导航和简化工作流程）、风险（如情境盲目的指导和信任侵蚀）以及缓解策略（如同行主导的对齐和亲身经验参与环设计）。研究结果突出了需要社区为中心的人工智能，以在放大关系护理的同时维护同行的自主性和信任。这些见解为在高风险、社区主导的环境中负责任地部署LLMs提供了可操作的指导。