理解公共机构对AI驱动的聊天机器人在公共卫生监测方面的期望与现实

研究背景与问题

• 发现的问题或挑战: 公共健康监测传统上依赖人力进行电话或家访，但由于资源限制，这种方法难以实现频繁、广泛的覆盖。此外，硬件依赖型技术（如传感器）成本高昂，尽管有助于扩展监测范围，但通常给关注点不同的工作人员带来新的劳动负担和维护任务。AI驱动的聊天机器人（如CareCall）被提出用于解决这些问题，但关于实际影响和工作人员感知的研究较少。
• 重要性: 在人口老龄化和孤独死亡增加的背景下，公共健康监测对支持社会弱势群体至关重要。AI技术有可能显著改善监测效率和覆盖范围，如果能有效整合，将减少对人力的依赖。
• 研究动机与相关工作: 当前研究限定在前线工作人员对AI技术的需求上，较少涉及决策人员和行政工作人员的视角。本研究旨在通过分析AI驱动工具的实际应用（例如CareCall），探讨不同利益相关者的经验和需求，从而更全面地理解AI技术在公共服务中的实际效果以及隐藏的劳动成本。

解决方案

• 提出的方法或解决方案: 本研究基于对AI聊天机器人CareCall的案例分析，对21位公共机构工作人员进行了深入访谈，旨在理解其预期功能与实际应用之间的差异。CareCall由一个大规模语言模型（LLM）驱动，通过模拟社工的语气来与用户进行健康检查。
• 创新之处:
  1. 探讨了如何在公共健康监测中部署AI聊天机器人，并评估该技术对多利益相关者的真实影响。
  2. 引入"框架化工作"（articulation work）理论，识别CareCall实施中对人类劳动力的需求和新劳动任务的转变。
  3. 强调LLM驱动的开放式对话系统在发现未被满足的护理需求方面的潜力。
• 实施步骤和关键技术:
  1. 收集和分析部署CareCall的数据，并通过访谈记录其对决策、监测和行政工作的具体影响。
  2. 评估CareCall在扩展监测范围、频率及降低硬件维护需求方面的效果。
  3. 应用LLM（例如HyperCLOVA）的长期记忆功能，以通过连续会话理解用户的健康状况并生成个性化问询。

研究成果

• 具体成果:
  1. 扩展覆盖范围: CareCall通过电话网络显著增加了公共健康监测的覆盖面，特别是在低资源环境中，这一方式明显优于硬件依赖型技术。
  2. 发现意外护理需求: CareCall的开放式对话使得未被关注的社会服务或健康需求得以识别，例如心理健康问题或灾后恢复需求。
  3. 新劳动负担: CareCall引入了新的劳动需求，包括处理用户参与的中断（如未接来电）以及协调前线跟进工作的复杂性。
  4. 局限性: 虽然技术扩展了监测覆盖范围，但未匹配的资源增加了前线工作人员的负担。同时，AI聊天机器人的功能和局限性之间的落差对公共和工作人员的期望管理提出了问题。
• 相较现有解决方案的优势:
  • 避免了硬件设备的高昂成本和维护负担，利用现有电话网络实现了更大规模的部署。
  • 提供了个性化和开放式会话功能，这在与用户建立信任和获取意外信息方面优于传统的规则驱动机器人。
• 实验或评估结果:
  • CareCall用户的监测频率从每月几次提升至每周一次，覆盖人数显著增加。
  • 使用CareCall的监测成本大幅低于硬件依赖型方案（如运动传感器或智能插座）。
• 局限性与未来方向:
  • 局限性: 缺乏充分的人力资源规划；对用户与AI互动意愿的过度假设；任务分配常导致工作人员劳动力的不平衡。
  • 未来方向:
    1. 开发标准化的指南帮助决策者评估和规划AI系统的实施。
    2. 探索如何利用被动传感（如环境数据）和聊天机器人形成互补，优化健康监测。
    3. 建立更完善的用户后备机制来解决使用中断问题。
    4. 加强关于AI系统实际需求和潜在劳动负担的透明沟通。

总结

这篇论文强调了AI驱动聊天机器人在公共健康监测中的潜力与挑战。研究展现了实际部署中产生的新劳动需求，并提出了有关扩展AI在社会服务领域应用的具体建议。其特别价值在于从多个利益相关者的视角深入分析AI技术的影响，并提出如何优化技术设计和部署规划的洞见。