设计有效的数字素养干预措施以提升深度伪造识别能力

文献标题

Designing Effective Digital Literacy Interventions for Boosting Deepfake Discernment

出版信息

• 主题领域: 提升深度伪造图像检测能力的数字素养干预。
• 关键词: 深度伪造图像, 数字素养, 虚假信息, AI生成内容, 辨别准确性, 行为干预, 视觉虚假信息, 游戏化, 反馈, AI素养。

背景与问题

• 问题/挑战: 人们难以区分真实图像与AI生成的深度伪造图像，这可能削弱信任、传播虚假信息并影响公众舆论。现有的数字素养干预措施在解决视觉虚假信息，尤其是深度伪造图像方面存在局限性。
• 重要性: 提升检测深度伪造图像的能力对于维护对真实内容的信任、减少虚假信息传播以及保护民主进程至关重要。
• 动机与相关研究: 先前研究表明，数字素养干预可以改善文本虚假信息的检测，但其在视觉虚假信息领域的应用尚未得到充分探索。现有方法（如反向图像搜索或媒体素养技巧）通常认知负担较重，难以在日常使用中实现。此外，干预措施可能会增加对真实内容的怀疑。

解决方案

• 提出的方法: 对五种轻量级数字素养干预措施进行比较评估，以提高深度伪造图像的辨别能力，同时保持对真实图像的信任。
• 创新点:
  1. 系统评估五种干预形式：文本型、视觉型、游戏化、基于反馈和知识型。
  2. 评估干预对深度伪造图像和真实图像辨别的即时和长期效果。
  3. 检验干预是否会增加对真实内容的怀疑。
  4. 分析分享意图以了解行为影响。
• 研究程序与关键技术:
  1. 进行一项大规模实验，招募 N = 1,200 名美国参与者，随机分配至五种干预条件或对照组。
  2. 参与者完成辨别任务（将15张图像分类为真实或伪造）并表明是否愿意在社交媒体上分享这些图像。
  3. 两周后进行跟踪调查以评估长期效果。
  4. 干预措施包括：
     • 文本型: 简短描述常见深度伪造错误。
     • 视觉型: 文本描述配以示例图像。
     • 游戏化: 带有积分和反馈的互动游戏。
     • 基于反馈: 重复分类任务并提供即时反馈。
     • 知识型: 解释AI图像生成过程。

结果

• 具体发现:
  • 文本型和视觉型干预分别将深度伪造检测准确率提高了7.5和13个百分点（均 p < 0.01）。
  • 游戏化、基于反馈和知识型干预未观察到显著改善。
  • 干预效果在两周后的跟踪调查中未显著持续。
  • 干预措施均未增加对真实图像的怀疑。
• 相较基线的优势:
  • 视觉型干预以最高的深度伪造检测改善（+13个百分点）优于对照组。
  • 文本型干预以较低的认知负担提供了可衡量的益处。
• 实验/评估:
  • 指标：辨别真实与伪造图像的准确性、分享意图以及自我报告的信心。
  • 数据集：每位参与者15张图像，包括真实和深度伪造图像（既有病毒式传播图像，也有非病毒式传播图像）。
  • 验证研究：通过 N = 600 名参与者确认研究结果。
• 局限性与未来工作:
  • 干预措施未能在即时训练之外产生持久效果。
  • 研究仅聚焦于深度伪造图像，尚未测试其在其他模态（如视频、音频）中的可转移性。
  • 在快速变化的在线环境中的实际适用性尚待评估。
  • 未来研究应探索重复曝光、个性化干预及其对机构信任的影响。

总结

本研究评估了五种数字素养干预措施对提升深度伪造图像检测能力的效果。文本型和视觉型干预在训练后显著提高了辨别准确性，其中视觉型干预改善效果最为显著。重要的是，所有干预措施均未增加对真实图像的怀疑。然而，干预效果在两周后的跟踪调查中未能持续，凸显了持续或重复干预的必要性。这些发现为制定可扩展的、以用户为中心的策略提供了可操作的见解，以应对视觉虚假信息，同时保持对真实内容的信任。