《它符合我的世界观》：探讨关于假视频的感知和态度

文献标题

"It Matches My Worldview": Examining Perceptions and Attitudes Around Fake Videos

文献信息

• 主题领域: 社交媒体中的虚假视频传播及用户行为研究
• 关键词: 假视频，深度伪造，误信息，印度，全球南方，信息通信技术与发展 (ICTD)，人机交互与发展 (HCI4D)

研究背景与问题

• 问题与挑战:

  • 随着社交媒体在全球南方用户中的普及，虚假视频（包括普通假视频和人工智能生成的深度伪造视频）成为重要的误信息传播途径。
  • 印度作为一个低资源环境，网络用户的数字技能有限，且倾向于信任视频内容，这使得识别虚假视频更具挑战性。
  • 现有研究集中在全球北方地区（如美国）的用户行为，未能充分探讨全球南方用户如何感知、接触和处理假视频。

• 研究意义:

  • 虚假视频不仅对个人隐私和安全构成威胁，还可能激化社会分裂和政治极化，特别是在资源匮乏的地区。
  • 印度因其互联网使用者数量庞大，深入理解此类用户的动机和行为有助于设计更有效的假视频遏制机制。

• 研究动机:

  • 探索印度农村和城市中多样化的社交媒体用户对虚假视频的认知、威胁感知及其传播行为。
  • 填补有关全球南方用户面对虚假视频的理解和行动的学术空白。

解决方案

• 研究方法:

  • 对来自印度农村和城市的36名社交媒体用户进行了半结构化访谈，他们在识字水平、数字技能和社交媒体经验方面存在差异。
  • 使用了视频探针，包括一段真实视频与三段深度伪造视频，以观察参与者是否能识别虚假视频及其应对方式。

• 主要创新点:

  • 将研究重点放在高风险的印度环境中，通过视频探针引导访谈，揭示各种虚假视频的心理模型和威胁模型。
  • 提供整合的设计建议，帮助社交平台减少假的视频传播。

• 关键技术与步骤:

  1. 研究设计与数据收集:
     • 招募农村与城市参与者，使用WhatsApp发送视频探针。
     • 通过在线访谈收集数据以保证参与者的安全。
  2. 数据分析:
     • 翻译并转录访谈音频记录，采用诱导性主题分析提炼核心主题。
  3. 方法论保障:
     • 使用多轮编码与同行交叉检查，确保数据分析的可靠性，并进行成员核查验证结论。
  4. 设计建议:
     • 针对用户低数字素养、知识缺乏以及工具不足的问题，提供具体、文化敏感的解决方案。

研究成果

• 关键发现:

  • 知识与认知差异: 多数用户对深度伪造视频毫无认知，仅有少部分人知道视频可能被编辑或分段处理。
  • 行为模式:
    • 多数用户对可能为假的视频采取无视态度，少数用户删除或屏蔽此类内容。
    • 部分用户认为支持其世界观的虚假视频值得分享，即使知道视频有误。
  • 影响评估:
    • 虚假视频被描述为比文字或图像谣言更具危害性，特别是对公共言论和社会稳定影响显著。
    • 女性参与者还特别提到了深度伪造色情视频对个人隐私和心理安全的威胁。

• 与现有解决方案的比较与优势:

  • 本研究是少数针对全球南方用户的定性研究，填补了现有研究的区域性和文化特殊性空白。
  • 提出了一系列具体措施，如基于解释型人工智能的可信性标签、反思性分享机制和常规化的数字素养培训。

• 实验或评估结果:

  • 通过访谈发现，农村用户通常更加信赖从家庭和朋友处获得的视频，而城市用户对鉴别虚假视频的技能稍有提升。
  • 调查揭示了用户对平台当前举报功能的广泛不满，包括其透明度不足和反馈机制模糊。

• 局限性与未来方向:

  • 局限性:
    • 数据收集基于访谈，可能存在参与者对敏感话题的潜在回避行为。
    • 样本局限于印度环境，有必要扩展到更多文化背景和地域进行验证。
  • 未来方向:
    • 开发面向低文化水平和数字素养用户的虚假视频识别培训工具。
    • 探索混合方法，结合定量研究进一步验证用户行为模式。
    • 设计与测试解释性强、文化相关的人工智能工具和用户界面以遏止虚假信息。