深度伪造，颅相学，监视，等等！人工智能隐私风险分类

文献标题

Deepfakes, Phrenology, Surveillance, and More! A Taxonomy of AI Privacy Risks

文献信息

• 主题领域: 人工智能（AI）、隐私风险、隐私保护技术
• 关键词: AI隐私风险, 深伪, 生理测量学, 监控, 数据隐私, 隐私分类, 安全, 人工智能伦理, 用户隐私, 数据泄露

研究背景与问题

• 问题与挑战:

  1. 传统隐私概念难以全面覆盖AI技术带来的新隐私风险。
  2. AI的独特能力（如媒体生成、用户兴趣识别、异常检测）和数据要求显著改变或加剧了隐私威胁。
  3. AI技术推动了诸如深伪色情、身份证明、隐私入侵等新型隐私风险的出现，但现有隐私保护方法（如差分隐私、联邦学习）对此覆盖不足。

• 重要性:

  • AI技术的广泛应用显著影响个人隐私。约半数民众认为AI未来将导致隐私减少，包含数据采集规模扩大、缺乏用户同意机制及持续监控的担忧。
  • 开发伦理AI产品需要系统性地理解这些隐私风险的形成和演变。

• 研究动机与相关工作:

  • 使用Solove的2006年隐私分类法作为基准，结合AI实际案例，分析现代AI技术如何改变隐私风险。
  • 研究通过AI事件数据库中已记录的案例（如Clearview AI和深伪案例）评估AI对隐私威胁的具体影响。

解决方案

• 方法与分类方案:

  • 构建隐私风险分类: 通过分析由“AI、算法与自动化事件与争议库”（AIAAIC）记录的321个AI隐私相关案例，构建一个包含12种高层隐私风险的分类法。
  • 创新点:
    1. 将Solove传统隐私分类扩展到AI的独特风险领域，例如“生理测量学/生理面相”。
    2. 针对AI创造的新风险与加剧已知风险进行详细划分。
  • 实施步骤:
    1. 收集和筛选321个最新AI隐私事故案例。
    2. 将案例分为三类：创造新风险、加剧已知风险、未显著改变风险。
    3. 基于案例分析，形成包含四大子领域（数据收集、处理、传播、侵入）的隐私风险分类。

• 分类结果:

  • 数据收集风险：监控。
  • 数据处理风险：身份识别、数据聚合、生理测量学、次要用途、不告知/排除、不安全。
  • 数据传播风险：信息暴露、扭曲、披露、增强可访问性。
  • 侵入风险：空间扰乱。

研究成果

• 具体成果:

  • 开发包含12种类型的AI隐私风险的分类结构。
  • 提出由AI创造的新风险，如“深伪色情”带来的信息暴露风险、基于外貌判断性取向的“生理测量学风险”。
  • 指出AI技术数据需求加剧的风险，包括监控风险、次要用途风险和安全问题。

• 与现有方法的对比:

  • 现有隐私保护方案（如差分隐私、联邦学习）无法覆盖AI创造的新风险（如生理测量学和信息扭曲）。
  • AI伦理工具（如道德清单）对这些新风险识别与缓解能力有限。

• 实验和评估结果:

  • 约93%的案例显示AI能显著改变或加剧隐私风险。
  • 实验证实风险分类的高一致性（Cohen's Kappa均值0.94）。

• 局限性与未来方向:

  • 局限性:
    1. 数据集可能存在采样偏差，可能未覆盖所有潜在风险类型。
    2. 偏重已记录案例的分析，可能忽略尚未显现或预期的未来风险。
    3. 隐私的定义和意识可能因文化和技术背景而有偏差。
  • 未来方向:
    1. 开发动态可扩展分类系统，持续追踪和更新AI引发的新风险。
    2. 建立相关事件数据库和工具，支持实践者识别AI隐私风险。
    3. 针对特定风险开发AI隐私设计指导原则，提升产品开发阶段的隐私保护能力。

最终，该研究揭示了AI技术对隐私风险的广泛而深刻的影响，并为开发AI隐私保护技术奠定了基础。