“我不知道如何提供帮助”——从护理网络中现代对话式代理系统的局限性中学习

商用对话式代理（如 Google 助手、Siri、Alexa）已被广泛使用，但这些系统在错误处理、灵活性、个性化和整体对话管理方面存在局限性，这些问题在护理协调场景中更为突出。本文通过对 56 名老年人与部署在家中商用对话式代理进行 10 周互动的定量和定性分析，综合阐述这些局限性。我们将对话式代理视为老年人护理网络中的补偿技术。我们认为，对话式代理的局限性源于任务导向交互中常见的刚性提示-响应风格。我们提议重新设计对话式代理的对话流程，以支持灵活性和个性化，同时在当前人工智能和机器学习技术的限制范围内仍可实现。我们探索了设计权衡，以更好地支持老年人相对于当前以效率和隐私为驱动的设计优化方案可用性需求。