这是一场公平的游戏”，还是不是？探讨用户在使用基于LLM的对话代理时如何应对披露风险和收益

文献标题

“It’s a Fair Game", or Is It? Examining How Users Navigate Disclosure Risks and Benefits When Using LLM-Based Conversational Agents

文献信息

• 主题领域: 大语言模型（LLM）用户隐私与敏感信息披露行为研究
• 关键词: 大语言模型, 人工智能对话代理, 隐私风险, 数据使用, 用户行为, 情景完整性, 隐私设计, 人机交互, 实证研究

研究背景与问题

• 作者发现了哪些问题或挑战？

  • LLM（如ChatGPT）被广泛应用于高风险领域（如医疗、金融、心理健康咨询），但用户不得不披露敏感信息（如医疗记录、财务信息、个人经历），这引发了严重的隐私和安全风险，包括数据泄露、个人信息滥用及模型记忆风险。
  • 当前关于LLM隐私问题的研究多以技术为中心，不够关注用户角度的问题，如隐私风险的主观感知以及披露行为的动机。

• 为什么这个问题很重要？

  • LLM 对话代理已成为日常生活的重要工具，它们的开放性和人性化设计使用户倾向于分享更多、甚至逐渐升级为敏感信息。
  • 保护用户隐私既是技术设计的要求，也与相关政策制定和用户权益息息相关。

• 研究动机与相关工作

  • 现有研究多集中在技术层面的隐私保护措施（如差分隐私算法、数据清理与知识学习），而忽视用户的实际行为。
  • 本研究首次采用用户中心视角，深入探讨用户如何在披露隐私信息时平衡风险与利益。

解决方案

• 作者提出了哪些方法或解决方案？

  • 分两部分进行研究：
    1. 对公开的ChatGPT对话历史数据（ShareGPT52K数据集）进行定性分析，以探索用户的敏感信息披露行为。
    2. 通过19位LLM用户的半结构化访谈，进一步调查用户对隐私风险的认识、动机以及应对方式。
  • 提议设计更多隐私保护工具并提供渐进式隐私控制，以便用户能更好地掌握隐私风险。

• 该解决方案的创新之处是什么？

  • 从用户实际数据和行为出发，首次系统性地探讨LLM用户隐私保护的挑战。
  • 为设计更针对性、更有效的隐私保护措施指明方向。

• 实施步骤是什么？使用了哪些关键技术？

  1. 数据分析：使用Microsoft Presidio工具对ShareGPT52K数据集检测PII（个人可识别信息），然后对用户实际对话行为进行多维分类并生成情景类型学。
  2. 用户访谈：通过开放式问题及绘图任务了解用户的隐私保护行为和对系统运作的认知（心理模型）。
  3. 归纳设计建议：基于发现的隐私问题与用户需求，构建多层次的隐私保护设计框架（如自动化去敏处理和灵活的选择性数据使用控制）。

研究成果

• 取得了哪些具体成果？

  • 发现用户信息披露行为的关键影响因素，包括对代理能力的信任、操作便利性、数据敏感性认知，以及“主动接受隐私风险”的行为趋势。
  • 提出用户隐私风险的详细分类，包括机构隐私、记忆风险、互依隐私问题（涉及第三方数据）等。
  • 发现多种阻碍用户采用现有隐私保护控制的原因（如暗模式设计），并建议改进隐私支持的方向。
  • 用户心理模型混乱，对LLM训练和数据记忆机制存在重大误解，这影响了隐私选择行为。

• 与现有解决方案相比，它有哪些优势？

  • 更加全面涵盖用户行为的动态影响，对技术和界面设计有直接指导意义。
  • 将技术问题与真实场景关联，为社会和政策干预提供具体依据。

• 实验或评估结果是什么？

  • 访谈数据显示，用户对隐私管控的理解普遍不足，大多数人不了解有效的隐私保护工具（如Opt-out功能）。
  • 数据分析显示，用户在对话中逐渐披露更多信息，这与LLM的交互方式（类人对话）直接相关。

• 局限性与未来方向

  • 局限性：
    • 聚焦ChatGPT，可能对其他LLM平台的研究不够完整。
    • 访谈样本可能存在代表性偏差，如敏感信息过多的参与者可能选择不参与。
    • 定量模型化仍需进一步研究。
  • 未来方向：
    • 研究不同用户群体特别是弱势群体的隐私问题。
    • 测试基于隐私保护工具的改进设计，并进行长期纵向研究，观察公众隐私态度的演变。