地牢与深度伪造：使用基于场景的角色扮演研究记者对使用基于AI的视频内容验证工具的行为

文献标题

Dungeons & Deepfakes: Using scenario-based role-play to study journalists’ behavior towards using AI-based verification tools for video content

文献信息

• 主题领域: 深度伪造（deepfake）视频/媒体验证技术与新闻记者行为研究
• 关键词: deepfake, 深度伪造, 新闻学, 媒体验证, 角色扮演, AI工具, 人类因素, 信息真实性

研究背景与问题

发现的问题或挑战

• 随着深度伪造（deepfake）技术的进步，操纵性视频内容正导致信息验证成为新闻行业的重大挑战。
• 现有的深度伪造检测工具准确性有限，特别是在非理想环境下，这可能导致伪造内容被误认为真实或真实内容被误判为伪造。
• 深度伪造检测工具的工作机制仿效杀毒软件，即给出“真”或“假”的结论，但未提供详细解释，这种方法并不适合新闻验证的需求。

研究的重要性

• 新闻记者的行为会显著影响伪造内容的散布及其对公众的影响，因此研究深度伪造检测工具对新闻记者验证行为的影响具有重要意义。
• 在新闻压力下快速判断视频真实性的能力至关重要，尤其是深度伪造相关事件在社会和政治层面可能产生相当大的影响。

研究动机与相关工作

• 当前深度伪造工具的易用性和技术进步使得解决新闻行业的验证痛点成为焦点。
• 研究空白：缺乏记者对这些AI工具的看法及其对工作流程影响的深入研究。
• 动机：在考虑到记者行为和复杂新闻环境的情况下，探讨深度伪造工具的应用及其局限性。

解决方案

提出的方法与创新之处：

• 场景化角色扮演法：借鉴桌面角色扮演游戏《龙与地下城》（Dungeons & Dragons）的核心玩法，通过构造一个灵活的半结构化模拟环境，邀请记者参与新闻事件验证，从而模拟其真实操作流程和决策行为。
• 动态与自由：与传统结构化问卷相比，这种方法给予了记者自由选择验证步骤的权利，增强了研究的真实性。
• 实验设计的复杂性：加入即时触发的紧急事件，以模拟实际新闻场景中的高压力环境。

实施步骤与技术：

1. 实验参与者：24位美国资深新闻记者，涵盖多领域的新闻报道经验（技术、政治、健康等）。
2. 场景设置：
   • 构建了7个基于真实新闻背景的虚拟场景，如国际政治争端、选举危机等。
   • 提供虚拟新闻来源和内容，包括带有检测工具结果的深度伪造视频描述。
3. 验证工具展示：
   • 重制现有的深伪检测工具界面（如DeFake工具），模拟更真实的用户交互体验。
4. 行为观察：
   • 鼓励记者在验证时“边思考边说”，记录其行为、决策模式以及对工具的信任程度。
5. 动态调整与急迫感：
   • 动态添加新闻事件（如视频突然病毒式传播）以感受新闻发布时的紧迫性。

研究成果

取得的具体成果

• 记者对AI工具的看法：
  • 多数记者对深伪检测工具持积极态度，并乐于将其纳入验证工具箱，但希望提升其结果的可解释性。
  • 工具开发者的信誉（如是否由大学或学术团队开发）对记者的信任起到关键作用。
• 验证工作流程的特点：
  • 记者倾向于优先使用传统验证手段建立背景，在困难时才转向深伪检测工具。
  • 面对高社会或政治影响力的事件，为避免失误，记者更倾向于增加验证步骤。
• 过度依赖的风险：
  • 部分记者在初次获得高准确率后对工具过于信任，将其作为最终决策依据（可能存在自动化偏差和确认偏差）。
  • 深度伪造检测工具的结果有时可能与其他验证途径相矛盾，导致记者对新闻发布犹豫不决。

实验和评估结果

• 角色扮演方法成功模拟了高真实感的新闻验证环境，激发了参与者自然表现。
• 群体方案中的团队讨论促进了更全面的决策，但在某些情况下可能受到领导者判断的影响。
• 深度伪造带来的不确定性导致部分记者倾向于发布“中性”报道，指出验证未完成的信息，而非立即判断视频真伪。

局限性与未来方向

1. 技术层面：
   • 未直接使用真实深伪视频（仅文字描述），可能错失观察记者直觉性验证能力的机会。
   • 研究未跨地域展开，可能未充分反映国际新闻生态的多样性。
2. 未来方向：
   • 探讨记者在不同媒体文化下的验证行为差异。
   • 发展全面解释性的深度伪造检测工具，帮助记者更好理解和推断系统结果。
   • 扩展实验设计，通过自动化实现动态场景的更广泛适用性。

总结与意义

• 本研究强调，在开发深度伪造检测工具时，应避免过早部署，以免引发自动化偏差带来的风险。
• 研究为AI辅助工具在新闻行业的应用提供重要启示：需加强工具可解释性，同时为记者团队提供培训。
• 角色扮演方法学展现出在培训和行为研究领域的潜力，可推广至深伪外的更多AI辅助工作场景。