肩上的AI：使用基于大语言模型的同理心同事支持前台角色的情感劳动

研究背景与问题

问题与挑战

• 客户服务代表（CSR）在日常工作中频繁与措辞不当的客户互动，这对其心理健康构成威胁。
• 客户的不文明行为可能导致CSR情绪枯竭、脱离感以及低成就感，并在组织层面引发高流失率以及负面工作态度。
• 客户服务行业长期以来缺乏创新手段来缓解CSR的情感负担。

问题重要性

• CSR 是组织与客户互动的第一线，其心理健康与工作满意度直接关系到服务质量和客户体验。
• 不文明客户行为和情感劳动对CSR的负面影响已成普遍现象，迫切需要介入措施来缓解这一压力。

研究动机与相关工作

• 现有的社会支持（如同事支持）虽然对缓解压力有所帮助，但在远程工作环境中其效果有所减弱。
• 人工智能特别是生成式语言模型（LLM）的兴起为扩展规模化的情感支持提供了新机会。然而，HCI领域尚缺乏针对情感劳动场景的研究。
• 本研究的目标是探究AI助理在情感劳动中的适用性，将大语言模型（LLM）整合为CSR在任务中情感调节的支持工具。

解决方案

方法概述

• 本文开发了名为 Care-Pilot 的基于LLM的AI助手，通过情感重构（Emotional Reframe）和认知调整来帮助CSR进行情感调节。
• Care-Pilot 的主要功能是生成具有共情力的支持性消息，帮助CSR应对因客户不文明行为而产生的负面情绪。

创新之处

• 利用LLM进行情境调节，这是一个全新的情感劳动干预方式。Care-Pilot的设计将情感支持嵌入实时任务流程中，而不是传统的事后培训或支持形式。
• 提出了一个通过链式思维（Chain-of-Thought）引导LLM生成情感支持消息的系统化策略，与人类同事的支持对比，展现出整体更高的诚意、行动性和适应性。

实施步骤和技术

1. 数据准备
   • 使用真实的客户投诉数据生成逼真的多轮对话，模拟客户不文明场景。
   • 利用结构化分类对客户投诉按服务质量、产品问题、定价、政策以及解决方案五种类型进行划分。
2. Empo-Reframe 模块
   • 利用LLM从对话中提取情景信息，推导CSR的潜在负面想法，并重构为支持性的、新的认知框架。
   • 通过链式提示（Chain-of-Thought）逐步生成问题情境、负面思维和重构后的应对方案。
3. 系统部署
   • Care-Pilot与CSR日常工作流程整合，例如提供聊天历史的情感标签、具体操作指导（Info-Guide）以及情感重构支持。

研究成果

具体成果

• Care-Pilot生成的支持性消息在多维度上（包括真实性、同情心、温暖感、可操作性和相关性）超过了人类生成的消息。
• CSR报告称，Care-Pilot能够帮助其避免负面思维、重新集中注意力，并在人性化客户方面提供协助。同时，Care-Pilot也间接减轻了寻求同事支持的负担。

实验或评估结果

• 技术评估
  • Care-Pilot生成的消息比人类同事更加适应特定场景，具备较高的情感表达和适应性。
  • 与人类生成的消息相比，Care-Pilot内容更详尽（冗长度增加67%），但也需要更高的阅读理解能力（可读性指数提高36%）。
  • 在共情检测任务中，Care-Pilot的消息表达同情的表现优于其他LLM基准模型。
• 用户评估
  • CSR指出，Care-Pilot的情感重构功能为其提供了类似“肩膀上的天使”的支持，帮助她们处理客户的不文明行为。
  • Care-Pilot在帮助CSR调整情绪、避免情绪陷阱、并重新专注于问题解决方面表现突出。

与现有解决方案的比较优势

• 在情感支持的多维度（如同情心、行动性）上显著胜过零基提示或其他LLM。
• 在CSR的实际操作中，Care-Pilot提供了即刻的情感干预支持，而无需中断任务以寻求同事帮助。

局限性与未来研究方向

1. 局限性
   • 当前评估依赖于合成数据和模拟场景，需要在真实情境和长期部署下进一步验证。
   • Care-Pilot的语言生成可能在多次使用后导致信息疲劳，由此可能在高效任务环境中引发边际效用递减。
   • 缺乏与人类同事那种建立在共享经验基础上的社会连接性。
2. 未来方向
   • 引入长期记忆（LTM）能力，帮助Care-Pilot学习CSR的历史互动情境，从而更好地个性化消息输出。
   • 使用实时情绪和压力感知技术，在适当时间有针对性地提供情感支持。
   • 探索基于真人CSR日志的集成测试，提升场景复杂性和可用性。

总体而言，本文通过对AI介导情感劳动的创新设计，展示了LLM在支持员工心理健康中的应用潜力，同时也为未来情感AI的开发和社会规范的重新设计提供了实践和理论支持。