理解长期记忆对大型语言模型驱动的聊天机器人在公共卫生干预中自我披露的影响

文献标题

Understanding the Impact of Long-Term Memory on Self-Disclosure with Large Language Model-Driven Chatbots for Public Health Intervention

文献信息

• 主题领域: LLM驱动的对话系统在公共健康监测中的应用
• 关键词: Chatbot, 大型语言模型 (LLM), 开放域对话系统, 长期记忆 (LTM), 公共健康, 健康检查电话, 社会孤立

研究背景与问题

• 发现的问题或挑战:
  1. 当前LLM驱动的聊天机器人能够通过开放式对话支持健康披露，但通常缺乏跨会话记忆个体信息的能力。
  2. 公共健康监测需要用户持续披露，而用户往往对敏感健康信息的披露较为犹豫。
  3. LLM驱动的聊天机器人未能通过前期会话信息进行个性化跟进，导致用户的参与度和信任受到影响。
• 问题的重要性:
  • 当前公共卫生监测手段需要通过重复的数据收集来了解人群健康动态，这种方法往往费时费力。纳入长期记忆能力的聊天机器人（如CareCall）可以通过提供个性化体验来提高用户的健康披露度，从而支持公共健康目标。
• 研究动机与相关工作:
  • 研究动机：开发能够更好地引发用户参与和长期健康披露的聊天机器人，为公共卫生监测提供解决方案。
  • 相关工作：之前的研究表明，记忆增强型聊天机器人如果能动态更新记忆内容，则有潜力在用户互动中提供更好的支持和反馈，但这些概念的真实部署影响缺乏实证理解。

解决方案

• 提出的方法或解决方案:
  1. 开发了CareCall，一个以HyperCLOVA为核心，支持语音交互的具有长期记忆功能的聊天机器人。
  2. CareCall的LTM存储并动态更新与用户相关的主题信息，如健康状况、日常饮食、睡眠质量、外出活动和宠物情况。
  3. 借助LLM提供在后续会话中动态参考的记忆触发功能，从而支持公共健康背景下的个性化健康监测。
• 创新之处:
  • 将LTM应用于LLM驱动的聊天机器人中，通过结合动态内存管理策略，提升了机器人记忆的持续性和谐调性。
  • 第一次实地对比分析了用户与带记忆和无记忆版本聊天机器人的长时间互动记录。
• 实施步骤与关键技术:
  1. 开发模型时通过数据增强技术训练大规模对话语料库以优化聊天机器人的对话能力。
  2. 加入记忆管理层，用于存储和动态更新五个LTM主题（健康、饭食、睡眠、参观地点和宠物）的用户摘要信息。
  3. 在不同组用户中比较带LTM功能与否的机器人部署，分析用户会话日志及参与者反馈。

研究成果

• 具体成果:
  • 在有LTM支持的CareCall版本中，用户的健康披露显著增加（健康相关话题详细披露增加了31%-76%）。
  • 用户对聊天机器人的正面反应（如感激和较少负面反馈）显著提升（感激的频次提升19%-69%）。
  • 带LTM的用户会话时间显著延长（从大约75秒提高到了88秒）。
• 与现有解决方案的比较优势:
  1. 相比无长记忆的聊天机器人，带LTM的机器人实现了持续时间更长、质量更高的健康相关细节披露。
  2. LTM功能通过提供个性化互动，成功减轻了用户对机器人互动所感知的冷漠感。
  3. 在公共健康监控的框架内具有更高的用户参与度。
• 实验或评估结果:
  • 定量分析：通过混合效应模型分析了5大LTM主题的披露深度和用户反应。
  • 定性研究：从案例通话日志和用户访谈中总结了LTM触发对健康披露和用户印象的具体影响。
• 局限性与未来方向:
  • 局限性：样本集中以女性用户为主，且研究局限于韩国文化环境；某些用户对隐私问题担忧，影响了披露行为。
  • 未来方向：
    1. 针对文化敏感性开展跨国比较研究。
    2. 探索更好管理用户隐私的记忆触发设计方式。
    3. 研究针对慢性病患者的多样化跟进问题设计。

总结

该研究系统地分析了在公共健康干预背景下，具有长期记忆功能的LLM驱动聊天机器人如何影响用户的健康披露及对机器人的感知。研究表明，LTM不仅提升了披露质量，还改善了用户体验，但需在公共健康监控目标和用户隐私敏感性之间取得平衡。