超越肉眼：人们如何感知、检测和回应人工智能操纵视频的实证研究

文献标题

Beyond the Naked Eye: Empirical Study of How People Perceive, Detect, and Respond to AI-Manipulated Videos

出版信息

• 主题领域: 公共对AI操控视频的感知、检测与反应。
• 关键词: AI操控媒体, 深度伪造, 检测准确性, 公共感知, 验证实践, 信心校准, 社交媒体, 虚假信息, 检测工具, 实证研究。

背景与问题

• 问题/挑战: AI操控视频的真实性和普及性日益增强，使公众难以将其与真实内容区分开来。以往的研究多集中于特定人群或受限数据集，尚未充分了解普通公众如何感知、检测和应对此类媒体。
• 重要性: 滥用AI操控视频可能导致政治虚假信息、欺诈以及对数字内容信任的削弱。理解公众对这一问题的参与方式对于设计有效的干预措施和工具至关重要。
• 动机与相关研究: 之前的研究探讨了特定社区的反应、新闻话语以及实验室环境下的人类检测能力。然而，这些研究缺乏生态效度，未能涵盖更广泛的公众行为和感知。本研究旨在通过对美国代表性样本的研究，结合真实世界的视频刺激，填补这一空白。

解决方案

• 提出的方法: 通过一项包含490名美国参与者的三部分调查研究，探讨公众对AI操控视频的感知、检测准确性、信心校准以及验证行为。
• 创新点:
  1. 使用多样化的真实世界视频语料库以提高生态效度。
  2. 探讨人口统计和行为因素对感知和检测准确性的影响。
  3. 分析公众对AI检测工具的认知和使用情况。
  4. 在统一框架中整合感知、检测和反应行为的整体分析。
• 程序与关键技术:
  1. 调查参与者的人口统计信息、媒体习惯以及对AI操控媒体普及程度的感知。
  2. 使用13段视频（包括真实和操控视频）测试检测能力，并收集信心水平和推理依据。
  3. 分析参与者自述的线索、信任行为和验证行动，包括对检测工具的认知。

研究结果

• 具体发现:
  • 平均检测准确率为66.3%，真实视频的检测成功率较高（75.6%），而操控视频的成功率较低（59.4%）。
  • 信心校准较差：22.4%的参与者过于自信，27.6%则信心不足。
  • 参与者认为音频/视频同步（平均评分：4.47/5）和面部表情（4.38/5）是最具影响力的怀疑线索。
  • 91.5%的参与者不知道检测工具的存在，仅8.5%知晓此类工具，实际使用者更少。
• 相较基线的优势: 与依赖实验室数据集或特定人群的以往研究相比，本研究更具生态效度，能够更全面地理解公众对AI操控视频的参与情况。
• 实验/评价:
  • 参与者评估了13段在分辨率、内容和操控类型上有所不同的视频。
  • 分析了感知和准确性的统计学与行为学预测因素。
  • 通过多选题和开放式问题评估验证行为和工具认知。
• 局限性与未来工作:
  • 对参与者观看环境的控制有限，自述数据可能存在偏差。
  • 样本集中于美国，限制了结果的普适性；需要开展跨文化研究。
  • 由于AI技术的快速发展，研究结果仅代表特定时间点。

总结

本研究通过对美国代表性样本和真实世界视频刺激的分析，探讨了公众如何感知、检测和应对AI操控视频。研究发现检测准确性中等，信心校准较差，且公众主要依赖面部表情和音频同步等人类线索。尽管检测工具的研究已取得显著进展，但公众的认知和使用率仍然很低。研究强调需要通过教育、改进工具和平台级解决方案等社会技术干预措施来增强公众抵御操控媒体的能力。未来工作应探索跨文化背景，并深入挖掘公众行为的定性洞察。