深度伪造，真实伤害：参与式设计方法构想打击深度伪造性虐待的基础设施

文献标题

Deepfake, Real Harm: A Participatory Approach for Imagining Infrastructures to Combat Deepfake Sexual Abuse

出版信息

• 主题领域: 通过参与式设计和以幸存者为中心的干预措施应对深度伪造性虐待问题。
• 关键词: 深度伪造性虐待, 生成式人工智能, 参与式设计, 以幸存者为中心的设计, 数字性暴力, 平台责任, 跨平台协调, 创伤知情设计, 人工智能治理, 韩国。

背景与问题

• 问题/挑战: 现有应对非自愿亲密影像（NCII）的系统具有反应性、平台中心化的特点，与活动家和幸存者支持专业人士的工作流程不匹配。这些系统无法有效防止伤害、实现跨平台协调，也未能解决对抗深度伪造性虐待所带来的心理负担。
• 重要性: 深度伪造性虐待正在全球范围内迅速升级，对受害者和活动家产生了深远的心理、社会和法律影响。制作和传播此类内容的便利性加剧了伤害，并削弱了数字空间中的信任。
• 动机与相关研究: 之前的努力主要集中于事后检测、水印技术和特定平台的内容审核，这不足以应对深度伪造虐待的规模和复杂性。本研究基于参与式设计和推测性设计方法，共同开发以幸存者为中心的干预措施，解决系统性缺陷。

解决方案

• 提出的方法: 通过参与式设计框架，邀请活动家和幸存者共同设想技术和政策干预措施，以应对深度伪造性虐待问题。
• 创新点:
  1. 详细识别活动家和幸存者在应对深度伪造性虐待时面临的挑战。
  2. 提出跨平台协调、主动防护措施和创伤响应系统的设计启示。
  3. 引入整合推测性设计的参与式设计方法，以突出真实经历。
• 过程与关键技术:
  • 与10位韩国活动家和幸存者开展参与式设计工作坊。
  • 使用旅程映射、问题定义和推测性设计活动来识别挑战并共同创造解决方案。
  • 应用了价值敏感设计框架，使干预措施与伦理和社会价值保持一致。

研究结果

• 具体发现:
  • 深度伪造性虐待带来了独特挑战，包括实施的便利性、识别施害者的困难，以及仅仅可能成为受害者就会引发的心理伤害。
  • 当前平台的应对措施碎片化，过度要求受害者报告并证明伤害。
  • 活动家因长期接触虐待内容而面临显著的情感和心理伤害。
• 相较基线的优势:
  • 提出的干预措施侧重于预防、跨平台协调，并减少幸存者和活动家的负担，解决了现有反应性和平台特定系统的不足。
• 实验/评估:
  • 工作坊揭示了系统性挑战，并共同设计了干预措施，例如集成案件管理系统、跨平台报告机制和创伤知情监测工具。
  • 参与者提出了主动防护措施，包括对生成式人工智能的输入限制和国际协作调查系统。
• 局限性与未来工作:
  • 研究结果特定于韩国背景，可能无法全球化推广。
  • 缺乏警察调查人员的参与，限制了对执法视角的洞察。
  • 推测性设计的输出可能无法立即技术实现，需要进一步优化和跨部门合作。

总结

本研究探讨了深度伪造性虐待的挑战，并通过与韩国活动家和幸存者的参与式设计工作坊提出了以幸存者为中心的干预措施。主要贡献包括主动防护措施、跨平台协调机制和创伤知情监测工具。研究结果强调了对活动家的结构性支持、国际合作以及平台责任转变以减少伤害和支持恢复的必要性。尽管研究基于韩国背景，但其洞察对全球范围内应对深度伪造性虐待具有广泛意义。