隐私有何益处？衡量隐私作为人工智能推断个人数据引发伤害的盾牌

文献标题

What's Privacy Good for? Measuring Privacy as a Shield from Harms due to AI Inference of Personal Data

出版信息

• 主题领域: 教育和就业场景中隐私与基于AI的决策。
• 关键词: 隐私, AI推断, 以危害为中心的隐私, 程序正义, 教育, 就业, 个人数据, 歧视, 公平性, 包容性。

背景与问题

• 问题/挑战: 现有的隐私框架未能有效捕捉由AI推断个人数据引发的危害，尤其是当数据本身并非固有的隐私或敏感数据时。当前方法无法充分应对由推断数据及既定规范引发的隐私侵犯问题。
• 重要性: AI推断导致的隐私侵犯可能引发严重危害，例如歧视、操控和刻板印象，这会影响个人在教育和就业等高风险场景中的自主性和公平性。
• 动机与相关研究: 先前的框架，如隐私作为隐藏或控制，以及情境完整性（Contextual Integrity, CI），在应对推断数据或既定实践引发的危害方面存在局限性。以危害为中心的隐私框架已被提出，但尚未正式操作化或经过实证验证。

解决方案

• 提出的方法: 将隐私概念化为抵御个人数据使用所引发危害的屏障，并通过以危害为中心的框架在教育和就业场景中的AI决策中进行操作化。
• 创新点:
  1. 形式化以危害为中心的隐私框架，用于衡量感知隐私。
  2. 实证验证框架在不同场景和人口统计学群体中的可靠性和一致性。
  3. 识别不同人群中细微的危害感知，推动隐私的公平性。
• 程序与关键技术:
  • 对400名美国高校学生进行在线研究。
  • 测量教育和就业场景中14种隐私危害对六类个人数据（如人口统计、人格特质）的感知。
  • 使用统计分析（Cronbach’s α、因子分析、验证性因子分析）验证框架的可靠性和不变性。
  • 通过混合线性模型和Mann-Whitney U检验探索不同人口统计学群体和场景中的危害感知差异。

结果

• 具体发现:
  • 以危害为中心的框架在不同场景和数据类型中具有高度可靠性（Cronbach’s α > 0.93）。
  • 隐私危害感知在不同人口统计学群体和场景中具有不变性，表明其广泛适用性。
  • 人口统计、情绪状态和残疾数据被认为危害最大，而动机和创造力数据则较少令人担忧。
  • 女性和年长参与者比男性和年轻参与者对隐私危害表达了更多担忧。
• 相较基线的优势:
  • 捕捉了由推断数据和既定实践引发的隐私危害，这是先前框架（如CI）所忽略的。
  • 揭示了细微的危害感知，为脆弱群体提供有针对性的缓解措施。
• 实验/评估:
  • 使用Likert量表的危害陈述对400名参与者进行调查。
  • 通过统计方法分析响应，以验证框架的可靠性、不变性和人口统计差异。
• 局限性与未来工作:
  • 由于在线招募导致样本偏差，结果可能无法推广到整个美国学生群体。
  • 研究集中于六种数据类型和两个场景，未来研究可扩展至其他领域和危害。
  • 未探讨单纯监控或非数据驱动隐私侵犯引发的危害。

总结

本文提出了一种以危害为中心的隐私概念化方法，用于衡量教育和就业场景中AI推断个人数据引发的感知危害。该框架经过实证验证，展现了可靠性、人口统计学不变性以及细微的危害感知差异。主要发现包括对人口统计、情绪状态和残疾数据的高度关注，以及性别、年龄和种族间危害感知的显著差异。该方法通过识别脆弱群体并提供缓解危害的可操作性见解，推动了隐私的公平性。未来工作可将该框架扩展至其他领域和场景。