非自愿合成亲密影像：10个国家的普遍性、态度和知识

文献标题

Non-Consensual Synthetic Intimate Imagery: Prevalence, Attitudes, and Knowledge in 10 Countries

文献信息

• 主题领域: 非自愿性合成私密影像（NSII）与深度伪造色情的社会影响、法律和技术应对。
• 关键词: 深度伪造色情, 深度伪造, AI生成图像, 基于图像的性虐待, 非自愿明确影像, 合成色情影像

研究背景与问题

• 问题或挑战:
  • 深度伪造技术的滥用，特别是用于创建非自愿性合成私密影像（NSII）的现象，正在加剧网络性别暴力和性虐待问题。
  • 针对AI生成的图像性虐待（AI-IBSA），当前法律、检测技术和社会理解的不足。
• 重要性:
  • 深度伪造色情（deepfake pornography）被广泛用于骚扰、性勒索和羞辱，与之相关的社会、法律和心理危害日益严重。
  • 合成影像滥用的低门槛，使得几乎任何人都可成为受害者。
• 研究动机与相关工作:
  • 作者试图通过跨国研究填补当前在深度伪造色情受害和施害现象的流行率、公众态度和性别差异上的研究空白。
  • 引用的相关研究探讨了深度伪造技术的社会焦虑、不足的检测技术，以及与性别暴力相关的立法挑战。

解决方案

• 提出的方法或解决方案:

  • 调查研究: 作者在10个国家中对16,000+名成年受访者进行了在线调查，以理解公众对AI-IBSA的认知、态度以及施害和受害的行为数据。
  • 数据分析: 应用定量分析和定性数据编码，揭示深度伪造现象的地理差异、性别影响及趋势。

• 创新之处:

  • 首次在跨文化范围内（10国）系统评估AI生成色情行为的流行程度与社会态度。
  • 将"传统"的基于图像的性虐待行为与AI生成的合成行为进行对比。
  • 在公众认知尚浅的情况下提出更有效的政策干预建议。

• 实施步骤:

  1. 设计针对AI-IBSA问题的调查问卷。
  2. 分析不同国家对深度伪造的知晓程度和立法背景的差异。
  3. 评估施害与受害行为的流行率，比较性别与文化差异。
  4. 提供政策、教育和技术解决方案建议。

研究成果

• 具体成果:

  1. 深度伪造色情知晓度较低: 平均仅有28%的受访者听说过深度伪造色情。
  2. 公众对非自愿合成内容行为持否定态度: 大多数受访者认为创建或传播NSII应被刑事化。
  3. 施害与受害行为相对稀少: 总体上，2.2%的受访者报告曾经历过AI-IBSA的受害行为，1.8%承认参与了相关施害。
  4. 性别差异显著: 男性更倾向于认为这些行为危害较低，且更容易报告观看、受害及施害经历。
  5. 立法的作用有限: 即使在已有明确法律（如澳大利亚、韩国）的国家，施害和受害率未显著减少。

• 相较现有解决方案的优势:

  • 提供了跨国家和性别的详尽数据，用以填补现存研究空白。
  • 突出了现有技术和法律在防止深度伪造色情相关行为方面的不足。

• 实验或评估结果:

  • 深度伪造色情内容被认为"有害"（无论目标对象是名人还是普通人）。
  • 深度伪造内容的消费是最常见的行为，其次是更主动的创建或传播行为。

• 局限性与未来方向:

  • 限制性: 被调查者可能低估或缺乏对自己被深度伪造受害的认知；部分施害行为未被报告。
  • 建议未来研究重点包括：
    1. 深入探讨AI-IBSA施害动机（性勒索、技术展示等）。
    2. 发展高效的检测技术，以减少该类内容的传播。
    3. 制定针对性别视角的教育干预措施。
    4. 扩展调查范围，涵盖更多发展中国家或特定受害者群体。

总结

本研究提供了前瞻性视角，通过对10国受访者的深入调查，揭示了AI生成的深度伪造内容在法律、技术和教育干预方面的紧迫需求。同时，强调性别因素、文化背景和社会认知的重要性，指向未来在防止基于AI的性别暴力中的潜在解决路径。