面向青年敏感的仇恨内容举报：德国的一项包容性焦点小组研究

研究背景与问题

• 作者发现了哪些问题或挑战？ 青少年在使用社交媒体时容易接触到仇恨内容，这会严重影响他们的心理健康。然而，大多数青少年没有有效使用现有的举报途径，包括平台内部和独立的举报工具。尤其是在德国，尽管法律有针对仇恨言论的强制性措施，许多年轻人从未向执法机构或独立举报中心报告问题。在研究人机交互领域，成人关于平台内举报的观点已有研究，但青少年的看法以及平台外的替代举报手段研究较少。

• 为什么这个问题很重要？ 接触仇恨内容会导致心理困扰，包括焦虑、恐惧、不安全感和睡眠障碍。青少年看似更愿意采取行动，但仍面临许多障碍。了解这些障碍以及如何设计适合青少年的举报工具，对于更有效保护这一群体至关重要。

• 研究动机与相关工作 前人研究指出，个体特性（如媒体素养）或社交环境对青少年举报行为有影响，此外许多平台对举报的处理效率低下。虽然成人用户在举报机制上的挑战已有所研究，但尚未探讨青少年对举报系统的需求。这项工作旨在填补这一研究空白，重点关注德国青少年的举报障碍及设计要求。

解决方案

• 作者提出了哪些方法或解决方案？ 作者通过与47名德国青少年和年轻人的八场焦点小组访谈，探索了仇恨内容举报的障碍以及设计青少年敏感解决方案的潜在要求。他们进一步提出了一组设计启发，用于指导开发更具包容性的举报系统。

• 该解决方案的创新之处是什么？ 本研究是首次深入探讨青少年对平台外举报工具设计的需求，同时系统化地分析了平台内外举报的障碍。此外，提出的五个设计启发普遍适用于两种举报类型，为未来设计提供了基础。

• 实施步骤是什么？使用了哪些关键技术？ 研究采取了以下步骤：

  1. 对青年群体进行焦点小组访谈，探索举报体验、障碍与需求。
  2. 进行结构化的定性内容分析，通过编码揭示具体障碍和要求。
  3. 整合研究结果与文献，归纳出五个设计启发。
  4. 提供关于现有工具的改进建议（如设计简化和增加反馈功能）。

研究成果

• 取得了哪些具体成果？ 研究发现了:

  • 九种障碍： 青少年认为平台举报存在规则执行不到位、反馈不足、分类限制等问题；在平台外举报工具上，他们感到缺乏意识、流程复杂、需要中断社交媒体使用以及对执法机构的不信任。
  • 十一项设计需求： 包括流程简化、匿名举报、语言支持、自定义反馈和心理支持等核心特点。

• 与现有解决方案相比，它有哪些优势？ 研究强调了当前工具无法满足青少年特定需求的方面，并提供了具体改进建议。与基于成人视角的研究相比，本研究更多地关注了青少年对举报工具的实际使用体验，提出了一系列兼顾效率与用户友好性的解决路径。

• 实验或评估结果是什么？ 焦点访谈中，大多数受访者认为现有工具无法满足他们需求，并且对执法机构和平台运营商整体上持怀疑态度。他们更倾向使用设计简洁、易于操作且能够保证隐私的工具。

• 局限性与未来方向 局限性：

  • 样本仅限于德国的一个都会区的青少年，结果可能无法代表农村和其他国家地区的青少年。
  • 没有探索其他利益相关者（如执法机构或举报中心）的需求。

  未来方向：

  • 扩展至更多国家和文化背景进行研究。
  • 采用更加系统的参与设计方法探讨不同利益相关者间的价值冲突。
  • 探索实际部署与评估定制化的举报系统对于减少仇恨内容的效果。

通过该研究，作者明确了阻碍青少年举报仇恨内容的关键因素，并提出了设计启发，用于指导开发更适合青年用户的仇恨内容举报系统。这项工作不仅填补了研究空白，也为政策制定者、平台运营商和技术设计者提供了有益的实践建议。