重新夺回控制权——开发个性化内容审核的冒险之旅

文献标题

Taking the control back – An adventure in developing personalized content moderation

出版信息

• 主题领域: 个性化内容审核以应对网络骚扰。
• 关键词: 网络骚扰，内容审核，个性化工具，社交媒体，Twitter，自动化，API限制，协作审核，平台设计，用户赋权。

背景与问题

• 问题/挑战: 在线平台未能提供有效工具来应对严重的、针对性的骚扰。目前的审核工具功能有限，反应滞后，且常常让受害者进一步暴露于伤害之中。
• 重要性: 骚扰严重影响用户的身心健康和社交互动，尤其对女性和边缘化群体影响更大。有效的内容审核对于创建安全的在线空间至关重要。
• 动机与相关研究: 现有的审核方法包括自动化系统、手动举报和基于社区的工具。然而，这些方法通常不足以应对持续的、针对性的骚扰活动。本文在以往研究的基础上，探索了一种个性化、自动化的内容审核方法。

解决方案

• 提出的方法: 一个个性化、自动化且协作的反骚扰系统，旨在过滤、屏蔽并举报骚扰者，同时尽量减少受害者接触有害内容的机会。
• 创新点:
  1. 开发了一个针对特定骚扰活动的个性化反骚扰系统。
  2. 将自动化与朋友协作相结合，以增强举报和屏蔽功能。
  3. 在官方API不可用的情况下，使用逆向工程的API。
  4. 基于对持续骚扰活动的自传式民族志研究，提供实证见解。
• 流程与关键技术:
  • 基于行为模式自动检测骚扰账户。
  • 通过用户和支持者账户组合屏蔽和举报骚扰者。
  • 记录和可视化骚扰数据，用于分析和系统优化。
  • 适应平台变化，包括对Twitter网页客户端的逆向工程。

结果

• 具体发现:
  • 系统在骚扰账户首次互动后的几分钟内屏蔽了所有骚扰账户。
  • 在自动举报后，96%的267个骚扰账户被暂停或删除。
  • 提交了超过81,000份举报，节省了约67.54小时的手动操作时间。
• 相较基线的优势:
  • 暂停率更高（96%），相比于以往研究中手动举报的典型结果（如55%）。
  • 显著减少了受害者接触有害内容的机会。
• 实验/评估:
  • 对骚扰模式进行分析，包括账户创建和发布行为。
  • 通过日志、可视化和举报结果评估系统性能。
  • 比较多个平台的审核功能。
• 局限性与未来工作:
  • 系统的有效性仅限于严重的、由可识别账户实施的针对性骚扰。
  • 当前实现需要技术专业知识，非技术用户可能面临障碍。
  • 未来工作包括开发用户友好的界面，并扩展系统以应对协同骚扰活动。

总结

本文提出了一个个性化、自动化的反骚扰系统，以应对Twitter上的持续骚扰活动。该系统有效地屏蔽和举报了骚扰者，对滥用账户实现了96%的暂停率，同时最大限度地减少了受害者接触有害内容的机会。通过整合自动化、协作和逆向工程，该系统弥补了现有平台工具的不足。研究结果强调了改进平台设计和用户赋权在应对网络骚扰中的重要性。本研究为未来支持严重骚扰受害者的工具开发和研究奠定了基础。