用于大语言模型驱动智能助手中的长期召回提示链框架

DOI

智能助手在长对话中通常难以维持上下文,这限制了它们的长期召回能力和个性化程度。本研究提出了一种将大语言模型集成到智能助手中的提示链框架来解决这些问题。我们的方法包括:(1)一项形成性研究(N=30)分析智能助手与用户的交互,识别长期记忆和个性化的关键挑战;(2)开发一个基于大语言模型的新型提示链机制的系统,以改进上下文保留,可适应各种大语言模型架构;(3)实施多步推理过程以增强上下文感知和个性化响应。我们通过在多个数据集上进行定量分析、使用不同大语言模型后端进行测试,并进行消融研究来评估各组件的贡献。结果表明,在所有测试的模型和数据集上,长期召回、上下文感知和个性化都有所改善。人类评估研究(N=47)表明智能助手响应在合理性、一致性和个性化方面都有所提升。该方法增强了智能助手的记忆能力,并可适应不同的大语言模型后端。