知识系统化（SoK）：为社交媒体平台上以人类为中心的实时风险检测制定研究议程

文献标题

Systemization of Knowledge (SoK): Creating a Research Agenda for Human-Centered Real-Time Risk Detection on Social Media Platforms

文献信息

• 主题领域: 人机交互 (HCI)、机器学习 (ML)、社会媒体风险识别
• 关键词: 在线风险, 人本机器学习, 实时风险检测, 社交媒体, 文献综述

研究背景与问题

• 发现的问题或挑战:

  1. 社交媒体平台上的实时风险检测算法虽然在技术层面取得了一些进展，但缺乏从人本视角评估其影响。
  2. 高准确率和快速检测之间存在权衡问题。
  3. 缺少对数据源的生态有效性和实际用户行为的充分考虑。

• 重要性: 社交媒体已成为人们日常生活的重要组成部分，但也存在多种风险（如虚假信息传播、心理健康问题、网络欺凌等），及时发现并干预这些风险对于保护用户至关重要。

• 研究动机与相关工作:

  • 目前许多研究集中在技术优化而非是否能够有效适应人类行为。
  • 相关综述已探讨部分在线风险类型（如网络欺凌和心理健康问题），但对实时风险检测尤其是从人本视角的系统化研究尚在起步阶段。

解决方案

• 提出的方法或解决方案: 本文通过系统化文献综述评估2015至2023年间的实时风险检测的学术工作，提出一个新的研究框架并填补关键空白：

  1. 对“实时性”的定义进行扩展，包括事前预防、事后早期检测，以及事后危害减缓。
  2. 综合当前的统计模型和深度学习技术趋势，并分析最佳技术实践。
  3. 确定当前架构中的人本视角不足之处。

• 创新点:

  1. 扩展了技术框架，涵盖从数据采集到模型开发和评估的多个人本维度。
  2. 提供基于生态有效数据集的采集建议和培养对话情境能力的优化。
  3. 提出了将风险严重性量化的系统性资源分配策略。

• 实施步骤与关键技术:

  • 文献检索：从五大电子数据库（IEEE Xplore, ACM Digital Library, ScienceDirect, Springer-Link 和 ACL Anthology）中筛选出53篇相关文献。
  • 编码与数据分析：制定基于人本框架的编码书，对每篇文章进行多维度分析，包括数据特点、模型开发、评估方式和应用研究。
  • 提出研究议程：针对数据、模型、评估和应用提出综合性改进建议。

研究成果

• 具体成果:

  • 定义并扩展“实时性”，涵盖从事前预测到事后检测及危害缓解。
  • 发现技术趋势，诸如适应性数据流模型、深度学习模型优化、领域驱动特征使用等。
  • 提出实时风险检测研究中的多项人本视角不足，并提出具体改进方向。

• 比较优势:

  1. 系统性框架覆盖完整的在线风险检测生态链。
  2. 强调数据集生态有效性和基于用户行为的动态风险检测。
  3. 引导研究者关注人本评估和实际应用。

• 实验或评估结果:

  • 所有论文中的检测性能评估主要集中在准确性（如F1分数）和时间敏感度，但较少有涉及用户行为或现实适用性的研究。
  • 少数论文尝试了用户评价，但没有深入探讨模型如何影响实际用户体验。

• 局限性与未来方向:

  1. 缺乏针对受害者或特定人群的生态有效数据集。
  2. 数据预处理仍过度依赖固定数据块，未能实时动态模拟人类行为。
  3. 多数评估指标局限于技术性能，尚未考量用户对风险检测的实际反应和需求。
  4. 工业界和学术界间的合作不足，开放接口和实际部署应用有限。

  未来建议:

  • 开发用户友好的数据流处理工具以增强生态有效性。
  • 广泛采纳基于用户行为的数据特征优化模型。
  • 强化用户参与评价算法性能，从设计初期引入动态用户反馈。
  • 建立多方合作机制，推动实时在线风险检测的工业应用接口开发与社会价值评估。