缓解自由形式对话中LLM驱动智能虚拟体的响应延迟

DOI

我们研究了在虚拟现实（VR）中缓解大型语言模型（LLM）驱动的智能虚拟体在自由形式对话中响应延迟的挑战。为此，我们使用对话填充剂（如手势和言语线索）来桥接用户输入与系统响应之间的延迟，并评估其在各种延迟水平和交互场景下的有效性。我们发现超过4秒的延迟会降低体验质量，而自然的对话填充剂改善了感知响应时间，尤其是在高延迟条件下。我们的发现为从业者和研究人员提供了在对话系统响应因网络限制或硬件缓慢而延迟时优化用户参与度的洞见。我们还贡献了一个开源管道，简化了虚拟环境中对话智能体的部署。