对话式 LLM 平台中的隐私控制：一项走查研究

文献标题

Privacy Control in Conversational LLM Platforms: A Walkthrough Study

出版信息

• 研究领域: 对话式大型语言模型（LLM）平台中的隐私控制机制。
• 关键词: 隐私控制、对话式LLM、数据治理、用户数据管理、自然语言控制、记忆功能、共享数据、定制化、以用户为中心的设计。

背景与问题

• 问题/挑战: 现有关于对话式LLM的研究多集中于隐私风险，但对平台如何实现用户可操作的隐私控制（如访问、编辑、删除和共享数据）缺乏深入理解。
• 重要性: 隐私控制至关重要，因为对话式LLM通过自然语言输入处理敏感用户数据，这引发了关于数据所有权、保留和共享的担忧。
• 动机与相关研究: 先前的研究探讨了对话式LLM中的隐私风险、用户感知和心理模型，但尚未全面分析界面层面的隐私控制。本研究旨在通过分析六个广泛使用的平台填补这一空白。

解决方案

• 提出的方法: 由专家主导的六个对话式LLM平台的应用操作分析，重点研究隐私控制机制，聚焦于界面层面的功能。
• 创新点:
  1. 识别对话式LLM平台中特定的隐私控制新范式。
  2. 分析交互生成的数据单元，如记忆片段和定制化对象。
  3. 探索基于自然语言的隐私控制和共享数据治理。
  4. 提供设计可扩展且用户友好的隐私控制的实证见解。
• 研究流程与关键技术:
  • 对六个平台（Character.ai、ChatGPT、Claude、Gemini、Meta AI和Pi）进行操作分析。
  • 从机构材料（如隐私政策）中提取与治理相关的信息。
  • 检查控制数据（如聊天记录、记忆和定制化对象）的技术功能。
  • 记录控制执行方法，包括图形用户界面（GUI）和自然语言（NL）命令。

研究结果

• 具体发现:
  • 平台提供了针对聊天记录、记忆和定制化对象的控制功能，但在粒度和执行方法上存在差异。
  • 自然语言控制实现了直观的交互，但也带来了用户意图和系统解释之间的歧义。
  • 共享数据机制导致共享者与被共享者之间的所有权重叠，增加了治理的复杂性。
• 相较基线的优势:
  • 识别出针对对话式LLM量身定制的独特隐私控制范式，与传统静态数据字段平台有所不同。
  • 突出了记忆片段和基于自然语言控制等创新功能，这些功能增强了用户交互体验。
• 实验/评估:
  • 操作分析涵盖六个平台，研究了记忆门户、定制化界面和共享数据控制等功能。
  • 使用修订后的隐私政策注释方案比较了数据治理实践。
• 局限性与未来工作:
  • 时间范围限制了研究结果，仅涵盖2024年11月至2025年1月期间可用的功能。
  • 研究集中于美国平台；需要对不同监管环境下的LLM进行跨文化分析。
  • 未来研究应包括用户研究，以考察隐私控制在实际交互中的表现。

总结

本研究分析了六个对话式LLM平台的隐私控制机制，揭示了交互生成数据单元（如记忆片段、定制化对象）、基于自然语言的控制以及共享数据治理等独特特性。研究结果突出了在设计可扩展且用户友好的对话式隐私控制方面的挑战。本研究提供的实证见解为提升LLM平台的透明性、可用性和多用户治理奠定了基础。未来工作应进一步探索跨文化比较和以用户为中心的评估，以进一步优化隐私控制设计。