DeepAware：利用体验式深度伪造模拟提升老年人网络安全意识

文献标题

DeepAware: Using Experiential Deepfake Simulations to Enhance Cybersecurity Awareness in Older Adults

出版信息

• 主题领域: 利用个性化深度伪造模拟提高老年人网络安全意识。
• 关键词: 深度伪造诈骗、网络安全教育、老年人、自我参照模拟、体验式学习、威胁感知、应对策略、数字素养、AI生成媒体、保护动机理论。

背景与问题

• 问题/挑战: 老年人由于缺乏意识、认知挑战以及缺乏实际培训，对深度伪造诈骗尤为脆弱。现有的教育方法过于抽象，未能使威胁具有个人相关性，导致老年人无法有效应对。
• 重要性: 深度伪造诈骗利用情感紧迫性和社会信任，给个人和社会带来了严重风险。解决这一问题对于提高数字安全性并赋能老年人保护自己至关重要。
• 动机与相关工作: 先前的研究主要集中在技术检测方法和一般的数字素养宣传上，但这些方法往往未能将知识转化为保护行为。体验式学习和自我参照个性化在增强参与度和记忆保留方面表现出潜力，但尚未应用于针对老年人的深度伪造教育。

解决方案

• 提出的方法: DeepAware，一个基于网络的平台，利用个性化的深度伪造模拟来教育老年人关于深度伪造诈骗的知识。该系统将用户的面部和声音嵌入到模拟场景中，以增强威胁感知和应对效能。
• 创新点:
  1. 将学习者的身份嵌入深度伪造场景，使威胁具有个人相关性。
  2. 设计分阶段学习，从概念教育到个性化模拟和应对策略逐步推进。
  3. 提供可操作的具体策略来应对深度伪造诈骗。
  4. 通过老年人评估该方法对知识、威胁感知和应对信心的影响。
• 流程与关键技术:
  • 用户上传照片和语音记录，用于生成个性化的深度伪造模拟。
  • 两个模块（身份盗用和假新闻）展示用户形象被操控的场景。
  • 五阶段学习流程包括概念介绍、真实案例、自我相关模拟、应对策略和复习测验。
  • 一个与用户相似的动画引导角色进行讲解，增强参与感并降低焦虑。

结果

• 具体发现:
  • 深度伪造知识显著提升（+1.0，5分制，p = .002），感知脆弱性（+0.91，p = .002），感知严重性（+0.71，p = .010），自我效能（+0.85，p = .003），以及应对效能（+0.90，p = .001）。
  • 高满意度（中位数 = 5.0）和实用性评价（中位数 = 4.5），深度伪造真实性评价中等（中位数 = 3.0）。
• 相较基线的优势: 个性化模拟使威胁显得直接且具体，解决了传统方法的抽象性问题。分阶段学习支持了威胁评估和应对效能。
• 实验/评估:
  • 对21名韩国老年人（平均年龄 = 65.8）进行单组前后测研究。
  • 混合方法评估包括问卷调查、思维过程记录和访谈。
  • 测量指标包括深度伪造知识、威胁感知、应对效能和学习体验。
• 局限性与未来工作:
  • 样本偏向于数字参与度较高的老年人，结果可能无法推广到经验较少的用户。
  • 单组设计限制了因果推断；未来需要随机对照试验。
  • 短期评估；长期记忆保留和行为影响尚不明确。
  • 场景多样性有限；未来工作应包括更多诈骗类型并提高模拟真实性。

总结

DeepAware 是一个个性化、基于模拟的平台，通过将用户的面部和声音嵌入到现实场景中，旨在教育老年人识别深度伪造诈骗。该系统显著提高了参与者的知识、威胁感知和应对效能，展示了自我参照体验式学习的潜力。尽管参与者认为该方法具有吸引力且可操作，但诸如基础知识差异和模拟真实性等挑战表明需要更具适应性和可扩展性的设计。本研究强调了个性化网络安全教育在应对新兴AI驱动威胁方面的潜力。