为创作者主导的评论审核设计词滤工具

文献标题

Designing Word Filter Tools for Creator-led Comment Moderation

文献信息

• 主题领域: 内容创作者的评论区管理与在线内容审核工具设计
• 关键词: 平台治理, YouTube, 在线骚扰, 内容审核, 内容创作者, 人机交互, FilterBuddy

研究背景与问题

• 作者发现的问题或挑战:

  1. 在线社交平台的内容创作者在面对大量评论时面临情绪劳动压力，尤其是面对骚扰性或仇恨评论。
  2. 现有的评论过滤工具（如关键词过滤器）功能单一，难以满足创作者复杂的审核需求。
  3. 创作者难以有效地组织和管理过滤规则，并且缺乏可视化工具来评估过滤器的效果。

• 为什么这个问题重要: 内容创作者已成为社交平台的重要部分，他们通过管理评论区和与观众互动培养社区。同时，评论区中的仇恨性或骚扰性内容会对创作者及其社区造成负面影响，破坏用户体验，甚至引发心理健康问题，尤其是对来自边缘化群体的创作者。

• 研究动机与相关工作: 该研究以现有的内容审核工具（如关键词过滤器）的局限性为切入点，结合边缘化群体创作者的需求，探索改进工具的方法。相关工作包括内容创作者面临的独特挑战、在线骚扰的研究，以及现有关键词过滤工具的不足。

解决方案

• 提出的解决方案: FilterBuddy工具

  • 支持创作者从零开始或者导入现成的过滤器创建新过滤规则。
  • 提供过滤规则的组织分类功能（如种族歧视、性别歧视等）。
  • 提供直观的可视化工具，展示过滤器在捕获评论方面的效果和时间变化趋势。

• 创新之处:

  1. 通过组织和分类关键词过滤器提升规则管理的可用性。
  2. 增加预览功能，让创作者实时查看某个关键词过滤规则捕获的评论。
  3. 支持拼写变化自动捕获规则，简化创作者的配置过程。
  4. 提供内建的过滤器类别（如反种族歧视、反女性歧视等），降低创作者自主配置的困难。
  5. 引入滤镜分享及协作机制，支持创作者间交流与合作。

• 实施步骤与关键技术:

  1. 用户登录后，系统通过YouTube API抓取评论数据。
  2. 根据设置的过滤规则，对新评论自动执行删除或发送审核等操作。
  3. 提供图形化界面，展示趋势分析和操作统计。
  4. 支持第三方开发者通过开源代码扩展工具功能。

研究成果

• 具体成果:

  1. 设计并实现了FilterBuddy这一过滤工具，它解决了现有工具功能缺乏的问题。
  2. 通过与真实创作者的使用实验，验证了该工具的实用性和用户接受度。

• 优势:

  1. 减少创作者在管理评论时的情绪劳动和时间投入。
  2. 支持更高效的信息组织和趋势分析。
  3. 通过分享和合作机制，促进创作者社区的集体治理和协作。

• 实验或评估结果: 参与者认可了FilterBuddy的视觉化设计和易用性，并提出了许多额外的应用场景。工具受到创作者（尤其是边缘化群体创作者）的欢迎，认为它可以帮助减少在线骚扰带来的压力。

• 局限性与未来方向:

  1. 当前工具仅支持文本匹配，无法处理多模态内容（如图片、视频等）。
  2. 该工具仅适用于YouTube平台，需进一步扩展至其他社交平台。
  3. 在过滤规则共享和协作方面仍需探索边界，以确保隐私和安全。
  4. 未进行大规模用户部署实验，未来需要研究In-the-wild应用情况。

伦理考虑

• 该工具可能被用于过度审查或限制合法内容，需确保良好的设计以平衡言论自由与审核需求。
• 在上线后需监测使用情况，防止被滥用或引发不平等。

总结

该研究通过深入了解内容创作者面临的挑战，从用户需求出发设计了FilterBuddy工具，并验证了它的效用。未来工作和更广泛的政策支持将能够推动更高效的、创作者友好的评论管理机制的发展。