关系收益与隐私压力：探索用户对ChatGPT记忆功能的感知与体验

文献标题

Relational Gains, Privacy Strains: Exploring Users' Perceptions and Experiences with ChatGPT's Memory Feature

出版信息

• 主题领域: 用户对ChatGPT记忆功能的感知及隐私问题。
• 关键词: ChatGPT, 记忆功能, 隐私, 用户感知, 个性化, AI记忆, 心理模型, 期望违背, 关系收益, 设计启示。

背景与问题

• 问题/挑战: 用户对ChatGPT的记忆功能缺乏理解，导致隐私担忧和期望未满足。该功能的透明度不足及潜在风险（如数据滥用和画像分析）尚未被充分探讨。
• 重要性: 理解用户感知对于设计能够平衡个性化与隐私的AI系统至关重要，从而确保用户信任和满意度。
• 动机与相关研究: 先前研究强调了AI记忆中的隐私风险以及用户对记忆功能的有限认知。然而，对于用户如何感知和体验这些功能，特别是在平衡关系收益与隐私担忧方面，仍存在研究空白。

解决方案

• 提出的方法: 通过对20名ChatGPT用户的半结构化访谈，探索他们对记忆功能的感知、心理模型以及改进建议。
• 创新点:
  1. 实证记录用户对ChatGPT记忆功能的体验，重点关注关系收益和隐私风险。
  2. 分析期望违背及其对用户心理模型的影响。
  3. 提出设计建议以增强透明度、用户控制和隐私保护。
• 过程与关键技术:
  • 对了解ChatGPT记忆功能的参与者进行访谈。
  • 要求参与者与该功能互动并反思其操作。
  • 使用开放编码分析数据，识别与感知、隐私担忧和设计建议相关的主题。

结果

• 具体发现:
  • ChatGPT的记忆被认为具有不遗忘、详细、准确、缺乏情感的特点，与人类记忆形成鲜明对比。
  • 用户重视关系收益，如个性化和归属感，但对隐私风险以及过时或无关的记忆表示担忧。
  • 大多数参与者经历了负面的期望违背，如意外的数据保留和有限的透明度。
• 相较基线的优势: 提供了以用户为中心的洞察，揭示了AI记忆中个性化与隐私之间的相互作用，填补了以往研究的空白。
• 实验/评估: 对20名参与者进行半结构化访谈，重点关注他们与ChatGPT记忆功能的交互及随后的反思。
• 局限性与未来工作:
  • 研究结果可能无法推广到其他LLM或文化背景。
  • 研究捕捉了特定时间点的感知；需要进行纵向研究。
  • 未来工作应探索特定类型的AI记忆，并减少拟人化语言以避免对AI能力的夸大认知。

总结

本研究探讨了用户对ChatGPT记忆功能的感知，突出了其机器特性（不遗忘、详细、准确、缺乏情感）和关系收益。尽管用户欣赏个性化功能，但他们对隐私风险、过时记忆和透明度不足表示担忧。负面的期望违背现象普遍存在，强调了更好地传达记忆机制的必要性。本研究提出了可操作的设计建议，如增加透明度、增强用户控制，以及在关系提示与隐私保护之间实现平衡，以创造更符合用户需求且负责任的记忆体验。