从"快速失败"到"安全成熟"：作为次级利益相关者的专家对青少年中心社交媒体风险检测的视角

文献标题

From 'Fail Fast' to 'Mature Safely:' Expert Perspectives as Secondary Stakeholders on Teen-Centered Social Media Risk Detection

出版信息

• 主题领域: 以青少年为中心的社交媒体风险检测与在线安全技术评估。
• 关键词: 青少年中心设计、社交媒体风险、在线安全、风险检测仪表盘、次级利益相关者、隐私、人工智能透明性、青少年赋权、人机交互、多利益相关者评估。

背景与问题

• 问题/挑战: 现有的社交媒体风险检测技术通常以家长为中心或基于平台设计，缺乏公众评估和青少年意见，导致高误报率以及青少年不满。这些系统通常遵循“快速失败”的范式，仅在部署后解决问题，这可能对脆弱的青少年造成伤害。
• 重要性: 应对网络风险（如网络欺凌、性诱惑和骚扰）对青少年安全至关重要，尤其是在社交媒体使用量不断增长的情况下。需要采取主动措施以确保技术在部署之前具有足够的稳健性。
• 动机与相关工作: 先前的研究开发了算法风险检测模型，但尚未将其转化为面向青少年的工具或评估其在现实世界中的可行性。扩大利益相关者的参与范围超越家庭单位是必要的，以识别实际挑战并协调利益，为可持续解决方案铺平道路。

解决方案

• 提出的方法: 本研究通过次级利益相关者（研究人员、实践者和行业专业人士）的专家反馈评估以青少年为中心的社交媒体风险检测仪表盘 MOSafely。
• 创新性:
  1. 开发并评估 MOSafely，一个功能性仪表盘，用于以青少年为中心的风险检测。
  2. 确定实施和维持以青少年为中心的风险检测技术的五个关键张力。
  3. 重新审视“以青少年为中心”的设计，纳入多利益相关者的观点。
  4. 提出解决青少年在线安全技术、社会和经济挑战的实用路线图。
• 程序与关键技术:
  • 与青少年共同设计，并通过青少年咨询委员会进行优化。
  • 对33位在线安全专家进行了半结构化在线访谈。
  • 使用归纳主题分析法分析反馈，以识别优势、劣势和张力。

结果

• 具体发现:
  • 优势：设计清晰，通过风险分类和反馈功能赋予青少年自主权。
  • 劣势：数据传输的可用性障碍以及风险定义和人工智能分析的不明确性。
  • 分类器性能：准确率在60%到89%之间，F1分数在63%到90%之间，具体取决于风险类型和模型。
• 相较于基线的优势: 超越以家长为中心和基于平台的模型，通过赋权青少年并将其反馈纳入风险检测。
• 实验/评估:
  • 参与者：33位专家（10位研究人员、11位实践者、12位行业专业人士），平均职业生涯时长为20年。
  • 方法：通过视频演示 MOSafely，随后进行访谈，重点关注早期反馈和实施张力。
  • 评估指标：可用性、清晰度、隐私问题以及与青少年需求的匹配程度。
• 局限性与未来工作:
  • 未直接涉及青少年用户；未来工作将通过青少年用户验证研究结果。
  • 反馈基于使用模拟数据的视频演示，而非实时系统。
  • 未来计划包括分阶段同意协议和干预效用的评估指标。

总结

本研究通过对33位在线安全专家的访谈评估了以青少年为中心的社交媒体风险检测仪表盘 MOSafely。专家们对仪表盘的清晰设计和支持青少年自主权表示赞赏，但也指出了数据传输繁琐以及风险定义不透明等障碍。研究揭示了五个张力，包括客观与情境依赖风险定义之间的冲突、隐私问题和财务可持续性。研究结果呼吁重新思考“以青少年为中心”的设计，将多利益相关者的观点纳入其中，并提出从“快速失败”到“安全成熟”范式的转变。该研究为解决技术、社会和经济挑战提供了路线图，以确保有效且可持续的青少年在线安全解决方案。