用户和创作者对定制GPT的隐私认知

研究背景与问题

• 发现的问题或挑战： 论文指出，基于 OpenAI 大型语言模型（LLMs）构建的定制 GPT 应用快速增长，超过三百万个，但相关隐私问题亟待解决。具体挑战包括：

  • 用户和创作者对数据流动和隐私风险的认识存在差异。
  • 数据在收集、处理和传播阶段的处理方式缺乏透明度，尤其是在涉及第三方服务的场景下。
  • 用户隐私风险增加，例如可能的敏感数据泄露、不透明的数据用途以及第三方数据收集。
  • 创作者担忧其专有知识被反向工程破解，同时目前缺乏平台的保护机制。

• 问题的重要性： 定制 GPT 应用的广泛使用直接影响数百万用户，但其中涉及敏感权限的隐私问题以及对用户行为的理解尚未深入。随着使用者数量和商业化的扩展，确保安全性和解决隐私问题变得日益重要。

• 研究动机与相关工作： 研究的动机是填补用户和创作者隐私感知以及实践之间的知识鸿沟。过去的研究大多关注技术性的隐私保护（如差分隐私或联邦学习），但对用户对于 LLM 定制化应用的隐私视角和行为的理解甚少。

解决方案

• 提出的方法或解决方案： 作者通过针对 23 位定制 GPT 用户和创作者的半结构化访谈，探索用户和创作者对于数据流、隐私风险及隐私实践的看法，并且深度探讨他们对不同角色和责任的理解。

• 创新点：

  • 探讨了用户与创作者双重角色对隐私感知的影响，揭示“模糊化用户-创作者身份”的现象。
  • 系统地分析了用户关于数据收集、处理、传播的隐私担忧，以及他们的应对策略。
  • 提供针对平台、政策制定者、研究者的建议以改进隐私保护和平台管理。

• 实施步骤与技术：

  1. 访谈设计：基于对用户和创作者的分层筛选（包括普通用户、业余创作者和专业创作者），开展约 40-126 分钟的半结构化访谈。
  2. 数据分析：采用主题分析方法，结合归纳与演绎相结合的分析框架，捕捉参与者所表达的关键隐私问题和相关行为。
  3. 理论视角：隐私分析使用了 Solove 的隐私分类法（涉及数据收集、处理、传播三阶段），并结合隐私计算理论（用户如何权衡隐私和功能牺牲）。

研究成果

• 具体成果：

  • 提出了用户和创作者在三个主要 GPT 使用场景（基础 GPT、基于行动的 GPT、登录式 GPT）下的数据流心理模型，包括对 OpenAI 数据收集的不确定信任、对创作者权限的误解，以及对第三方参与的不信任。
  • 系统总结了用户和创作者在隐私方面的主要忧虑：数据收集、处理和传播缺乏透明性，第三方数据滥用风险，以及平台缺乏监管政策。
  • 发现用户通过自我审查（输入自我限制）、GPT 可信度评估、减少使用痕迹等策略来应对隐私问题，而创作者主要通过设置 GPT 私密性和调整提示设计来保护知识产权。

• 与现有方案的对比及优势：

  • 作者的研究以人类中心视角填补了当前技术隐私保护研究的空白，提出明确用户和创作者的责任分工。
  • 更进一步探讨了平台在支持创作者保护知识产权与制定合规性指导方面的不足。

• 实验或评估结果： 作者分析了不同用户角色的隐私问题反映在沟通误解以及用户对 GPT 应用的偏见。从中得出的具体结果：

  • 普通用户高估了 GPT 创作者对其隐私的影响，而忽略了平台（OpenAI）和第三方服务的作用。
  • 创作者对平台监管机制缺乏信任，从而导致不愿共享知识的现象。

• 局限性与未来方向：

  • 局限性：
    • 样本量有限，主要为定向用户组（比如 European GDPR 法规下的用户）。
    • 仅关注 OpenAI 的 GPT 平台，未覆盖其他 LLM 定制化应用。
  • 未来方向：
    • 扩展研究范围到更多模型商（如 Anthropic、Google 的 LLM 项目）。
    • 深入研究 GPT 与第三方服务合作对数据泄露的潜在风险。
    • 探索隐私疲劳对长期用户行为的影响及对策。

通过提出的研究框架和探讨隐私实践的细化问题，本文为设计安全透明的 GPT 应用系统提供了基础性指导，同时也有助于推动政策、技术和用户体验协同发展的跨学科对话。