具有内心想法的主动对话代理

研究背景与问题

• 问题或挑战: 当前对话式AI主要是被动响应用户的输入，即使有多方对话的情境，也主要依赖对话上下文预测下一说话者，忽略了AI的主动性。同时，现有方法在多方对话中对于自选发言时的能力有限，因为这需要理解内在动机。
• 重要性: 主动对话可以使AI更像人类，在合适的时机贡献有意义的内容，而无需明确触发。这对于多方对话尤其重要，能够增强对话的流畅性和自然性。
• 研究动机与相关工作:
  • 传统预测策略依赖外部语境（例如眼神交流或语言信号），在没有明确说话分配的情况下往往不够自然或连贯。
  • 微调模型在开放式对话领域表现有限，许多情况下无法超过简单的基准方法。
  • 本研究引入灵感于认知心理学和语言学研究，通过模拟人类“内部思考”（例如一个潜在但未表达的想法），试图让AI在适合的时机主动参与。

解决方案

• 方法或解决方案: 提出了“内心思考”（Inner Thoughts）框架，模拟AI在平行于正在进行的对话的同时生成“内部思考”的过程，并根据内在动机决定参与时机。
• 创新之处:
  • 引入AI内在动机模型，使AI超越对外部环境的单纯反应。
  • 从认知与语言学角度提出“触发事件、长期记忆检索、想法生成、动机评估和参与决策”的五步流程。
  • 考虑到人类在多方对话中的内在复杂因素（例如话题相关性、紧迫性与信息间隙），用以推动AI表达更贴近人类行为的主动性。
• 实施步骤:
  • 触发: 定义触发AI产生思考的事件，例如新消息或对话中的停顿。
  • 检索: 从AI的短期和长期记忆中搜索相关信息。
  • 思考生成: 使用语言模型生成潜在的内心想法。
  • 评估: 根据研究中总结的8个内在动机（相关性、信息间隙、影响预期、紧迫性等）评估这些生成的想法。
  • 参与: 根据评估结果决定表达某个想法或保持沉默，甚至在合适的动力下进行打断式发言。

研究成果

• 具体成果:
  • 构建了用于多方对话模拟的Inner Thoughts Playground系统和Swimmy聊天机器人。
  • 通过实验证明，这种框架在多指标（如转接适当性、连贯性、人性化、主动性和适应性）方面明显优于基线模型（基于下一说话者预测）。
• 与现有解决方案的比较:
  • 基线模型主要依赖反应性预测，并常常在自选发言场景中表现不佳；而内心思考框架通过内在动机模型，更符合人类对话的自然流动。
• 实验或评估结果:
  • 在模拟对话中，内心思考框架显著改善了对话的连贯性、团队成员的交互性及话题的扩展性。
  • 在用户实验中，不同主动性设定的AI都能被用户识别，其中“主动贡献者”被认为是最自然且受用户喜爱的风格。
• 局限性与未来方向:
  • 内心思考中对生成内容的质量控制存在挑战，可能产生重复或不连贯的想法，需要引入更先进的方法例如知识图谱。
  • 当前框架是基于固定的主动性阈值，未使用数据驱动方法实时调整。
  • 对框架的技术评价主要集中在文本为主的场景，需要进一步探索其在实时音频与多模态场景中的表现。
  • 自动化评价方法还有待进一步发展，现有方法在人力与资源方面成本较高，未来可探讨规模化的自动化评估指标。

通过引入内在动机的评估机制，内心思考框架展示了对主动性AI应用的深远可能，包括协作式任务、伦理决策与多模态交互，为未来的主动对话AI研究奠定了新的设计基准。