理解利用大型语言模型部署对话式AI进行公共卫生干预的好处和挑战

文献标题

Understanding the Benefits and Challenges of Deploying Conversational AI Leveraging Large Language Models for Public Health Intervention

文献信息

• 主题领域: 人机交互（HCI）、自然语言处理（NLP）、公共健康
• 关键词: Chatbot, 大型语言模型, 开放域对话系统, 公共健康, 电话问诊, 社会孤立

研究背景与问题

• 问题或挑战: 虽然使用大型语言模型（LLMs）的聊天机器人具有提供开放式对话并进行情感支持的潜力，但这些系统在实际的公共健康干预中的应用尚处于探索阶段，尤其是在大规模人群健康监测方面。
• 重要性: 大型语言模型驱动的聊天机器人通过自动化一些重复性任务，可以减轻公共健康工作人员的负担。进一步探讨其优点和缺点有助于优化公共资源并更好地满足目标人群的健康需求。
• 研究动机: 探讨利用 CareCall 系统（一种开放域聊天机器人）进行真实背景下的健康干预，尤其是解决社会孤立问题。

解决方案

• 提出的方法: 作者围绕 CareCall 系统展开研究，分析其相较于传统聊天机器人在公共健康干预中的表现。
• 创新之处:
  1. 通过大型语言模型支持开放域的情感对话。
  2. 收集用户健康数据的同时提供情感支持，旨在减轻孤独感。
  3. 从多方利益相关者的视角分析系统应用，形成全面的见解。
• 实施步骤与技术:
  • CareCall 系统使用大型语言模型（HyperCLOVA）支持开放域对话。
  • 系统利用示例语料库进行对话生成，并通过仪表盘展示用户健康状态以供社会工作者监控。
  • 进行焦点小组观察和多利益相关者访谈，共计涉及 34 名参与者。

研究成果

• 具体成果:
  1. 优势: CareCall 系统帮助社会工作者全面了解用户情况，同时减轻了工作负担；用户认为通话帮助缓解孤独感并产生情感支持。
  2. 不足或挑战:
     • 技术难点：系统无法提供基于个人健康历史的个性化对话，缺乏长时记忆能力。
     • 公共健康需求与聊天机器人的适应性不匹配，难以回答具体保健问题或处理服务请求。
     • 聊天机器人偶尔生成不恰当或有问题的回复，控制对话质量存在困难。
  3. 实验与评估结果:
     • 开放域对话系统能有效处理与健康无关的话题（如爱好和文化生活），提升用户情绪。
     • 系统对社会孤立群体的健康监控有一定促进，但用户对其认知能力和服务范围存在误解。
• 局限性与未来方向:
  1. 有关长时记忆功能的研究方向，可提升系统在个性化情感支持上的表现。
  2. 需开发资源与流程来帮助相关方理解开放域与任务导向型聊天机器人的优劣，促进需求与现实之间的谈判。
  3. 探索机制使目标人群或健康护理专家能参与对话数据集的创建，满足特定人群的公共健康需求。

总结

本文通过对多方参与者的观察和访谈揭示了 LLM 驱动聊天机器人在公共健康干预中的优势和缺点，并提出了优化情感支持、解决多方需求协同和扩大系统适应性的方法，为推动 HCI 和 NLP 跨学科研究提供了有价值的洞察。