生成式AI聊天机器人生态系统中的隐私选择设计

文献标题

Designing Privacy Choice in Generative AI Chatbot Ecosystems

出版信息

• 主题领域: 生成式人工智能生态系统中的隐私选择设计
• 关键词: 生成式人工智能，隐私选择，聊天机器人生态系统，个性化，数据共享，第一方生态系统，第三方生态系统，用户信任，隐私控制，透明性

背景与问题

• 问题/挑战: 现有的生成式人工智能生态系统缺乏有意义的界面，无法让用户做出知情的隐私选择。目前的解决方案更多关注系统级保护，而非以用户为中心的隐私控制。
• 重要性: 生成式人工智能从独立工具向互联生态系统的转变加剧了隐私风险，复杂的数据流动使得用户在隐私决策中的赋权变得尤为重要。
• 动机与相关工作: 先前的研究探讨了传统系统中的隐私通知和控制，但未能充分解决生成式人工智能生态系统所带来的独特挑战，例如不透明和动态的数据交换。本文旨在通过研究生成式人工智能生态系统中的隐私选择设计来填补这一空白。

解决方案

• 提出的方法: 通过基于情境描述的调查和访谈，研究生成式人工智能生态系统中的隐私选择设计，重点关注两个场景：上游个性化和下游数据共享。
• 创新点:
  1. 针对用户对生成式人工智能生态系统中隐私选择界面的感知、期望和担忧进行范围化研究。
  2. 阐明生态系统类型和隐私选择时机如何影响用户信任、控制感和参与意愿。
  3. 探索用户对第一方与第三方生态系统的矛盾性认知。
  4. 提出设计可用且值得信赖的隐私选择界面的设计启示。
• 研究过程与关键技术:
  • 对486名参与者进行了两次基于情境描述的调查，并对16名参与者进行了后续访谈。
  • 研究了两个场景：上游个性化（用户数据输入到生成式人工智能）和下游数据共享（生成式人工智能的数据输出到外部提供方）。
  • 分析了隐私选择时机（初始设置时 vs. 即时）和生态系统类型（第一方 vs. 第三方）对用户感知的影响。

研究结果

• 具体发现:
  • 初始设置时的隐私选择提供了更强的控制感，但有时被认为过于干扰。
  • 即时选择提供了情境相关性，但被视为干扰性较强且引发怀疑。
  • 第一方生态系统（如 Google Gemini）因其问责性而受到信任，但引发了对生态系统范围内数据收集的担忧。
  • 第三方生态系统（如 ChatGPT）因个性化而受到偏爱，但需要更高的透明度以说明数据共享情况。
• 相较基线的优势:
  • 识别了用户偏好和矛盾信任模式的细微差异，这些在先前研究中未被捕捉到。
  • 提供了关于在生成式人工智能生态系统中平衡预见性和情境性隐私控制的可操作性见解。
• 实验/评估:
  • 调查通过984个情境描述响应测量了用户对隐私控制、信任和使用生成式人工智能系统意愿的感知。
  • 访谈提供了关于用户推理和偏好的定性见解。
• 局限性与未来工作:
  • 仅限于美国参与者；未探索文化和法律差异。
  • 研究集中于时机和生态系统类型；其他设计维度（如模式、细粒度）尚未探讨。
  • 基于情境描述的方法简化了真实世界的交互；未来研究应考察动态、多轮次的生成式人工智能对话。

总结

本文研究了生成式人工智能生态系统中的隐私选择设计，重点分析了时机（初始设置时 vs. 即时）和生态系统类型（第一方 vs. 第三方）对用户感知的影响。调查和访谈揭示了矛盾的信任模式：用户信任第三方生态系统用于个性化，但更倾向于第一方生态系统进行数据共享。初始设置时的选择提供了预见性控制，而即时选择则提供了任务特定的清晰性，但破坏了交互流程。研究结果强调了需要设计平衡预见性和情境性控制、增强透明性并支持最小化任务导向数据使用的隐私界面。这些见解为生成式人工智能生态系统中的用户中心隐私解决方案设计提供了指导。