"我知道即使你不告诉我": 理解用户对AI基于敏感信息推断进行个性化设置的隐私偏好

文献标题

"I know even if you don’t tell me": Understanding Users’ Privacy Preferences Regarding AI-based Inferences of Sensitive Information for Personalization

文献信息

• 主题领域: 人工智能隐私、用户数据个人化、HCI (人机交互)
• 关键词: 个性化、隐私、推断、用户同意、隐私偏好、人工智能、数据敏感性、数据透明性、实验研究、保护属性

研究背景与问题

• 发现的问题或挑战:

  • 尽管个性化功能通过提供符合用户偏好的推荐提高了用户体验，但这通常依赖于收集用户的信息，而这些信息很多时候是通过隐秘或未经同意的方式获取的。
  • 近年来，平台对用户数据的AI推断愈发精确，但这些推断通常缺乏透明性，用户对其了解有限，可能导致隐私侵害。
  • 特别是涉及敏感属性（如种族、国籍、性别等）的生成推断可能存在歧视和误导风险。

• 问题的重要性:

  • 推断得来的信息（特别是敏感信息）的不透明处理可能对个体产生负面后果，如歧视性行为或错误决策。
  • AI推断的广泛应用与用户隐私保护的矛盾仍未妥善解决，可能削弱公众对在线平台的信任。

• 研究动机与相关工作:

  • 现有文献主要关注用户对推断行为的回顾性看法（例如通过隐私仪表板或广告解释），而非用户在实际情境下对推断和数据使用的决策。
  • 本研究意在通过实验研究，探索用户在感知AI推断信息后，如何对隐私偏好做出决策，为改进数据使用同意机制提供新方向。

解决方案

• 提出方法:

  • 采用两个实验研究（共877名参与者）探讨用户的隐私偏好：
    • 实验1：研究用户对AI推断信息的使用同意。
    • 实验2：研究用户在了解AI推断对个人数据推断后，对明确提供的信息是否会改变态度。
  • 设计了一个模拟的个性化推荐系统（Public Arts Recommender, PAR），采集用户输入的公开艺术偏好，并生成三个敏感性类别的AI推断（艺术偏好、广告目标与保护属性）。
  • 通过4级数据使用同意指标进行量化（从不允许使用到最广泛使用范围）。

• 创新之处:

  • 将AI推断透明性纳入用户隐私决策。
  • 研究了不同敏感性和准确性的推断对用户同意水平的具体影响。
  • 对比了AI推断生成数据和用户显式提供数据时的隐私决策差异。

• 实施步骤及技术:

  • 构建基于贝叶斯网络的用户模型，从问卷数据中生成用户属性推断。
  • 设置不同隐私敏感性的问题分类（如“公开艺术”、“适用广告”和“保护属性”）。
  • 控制变量设计：推断类别与推断正确性。
  • 数据分析包括对用户同意见的ANOVA统计检验，以及后续的隐私态度和系统感知调查。

研究成果

• 具体成果:

  • 用户对敏感性较高的推断（如国籍或种族）选取了更严格的数据使用同意，也对错误推断持非常谨慎态度。
  • 当系统将用户输入通过生成推断展示给用户时，用户对这些输入的使用同意显著降低。
  • 用户对显式提供数据的信任水平高于对AI推断的信任。

• 与现有解决方案的比较优势:

  • 本研究验证了在个性化推荐领域中推断透明性的重要性，可为平台设计更多符合用户隐私需求的机制提供理论基础。
  • 提出"推断素养"的概念，强调提高用户理解AI推断行为的能力。

• 实验或评估结果:

  • 平均而言，实验中的AI推断准确率约为48%，敏感推断（如保护属性）在用户同意中限制性最高。
  • 推断类型（艺术/广告/保护属性）与推断正确性与用户隐私态度显著相关。
  • 系统透明度对用户隐私感知的影响：披露敏感数据推断可能会增加用户对平台数据实践的评价。

• 局限性与未来方向:

  • 方法局限性包括研究范围主要限于公共艺术推荐情境，且评估仅涉及有限问题设置（10个问题）。
  • 未来研究可在情境化（如健康数据或社交媒体）的广度上进行扩展。
  • 需要进一步探索存储推断数据涉及的用户隐私影响和同意机制优化设计。
  • 进一步研究如何教育用户关于AI推断的工作方式以提高推断素养。