自动审核中的标记和可标记性：在线游戏社区中报告有毒行为的案例

文献标题

Flag and Flaggability in Automated Moderation: The Case of Reporting Toxic Behavior in an Online Game Community

文献信息

• 主题领域: 在线社区治理，特别是电子竞技游戏中的自动化内容监管
• 关键词: 举报机制, 在线社区, 自动化监管, 游戏文化, 毒性行为, 游戏公平, League of Legends, 社区治理, 社会互动, 人工智能

研究背景与问题

• 问题或挑战: 在许多在线平台中，用户举报功能（flagging）是对有争议内容或毒性行为进行管理的第一步。然而，关于这种举报机制实际运作以及用户如何使用它的研究仍然不足，尤其在自动化调控情境下。
• 重要性: 了解举报的实用性及其社会动态对于改进平台治理以及减少有害行为至关重要。同时，竞技类在线游戏环境中的用户行为具有高度竞争性，这种特定文化为举报实践带来了独特的挑战。
• 研究动机与相关工作: 文献聚焦于人类内容监管员的劳动，或平台规则如何塑造行为，但对普通用户如何感知和适应举报机制的关注较少。本研究试图填补这一研究空白，并深入探讨用户如何使用举报机制来应对社区中的毒性行为。

解决方案

• 提出的解决方案: 作者通过定性研究（包括访谈和论坛数据分析）深入了解举报机制在《英雄联盟》（League of Legends，LoL）中玩家使用的实际情况。这项研究揭示了举报机制的设计意图与玩家实际使用之间的明显差异，并提出了 "Flaggability" （可标记性）的概念。
• 创新之处: 提出了“Flaggability”这一概念，强调了玩家如何根据竞赛文化构建举报的标准，而不局限于官方定义的毒性行为分类。同时，通过定性分析展示了玩家的举报行为如何反映其社交互动和情绪管理策略。
• 实施步骤与技术:
  1. 数据收集: 通过半结构化访谈收集了35名LoL玩家的举报实践数据，同时结合在线论坛约111篇帖子及2053条相关评论。
  2. 数据分析: 使用主题分析法（thematic analysis），归纳玩家经验并生成关于如何举报的主要主题。
  3. 概念建构: 推荐“Flaggability”作为描述玩家举报实践的有效理论工具。

研究成果

• 具体成果:
  1. 玩家对举报机制的不信任感主要来自于举报后缺乏反馈和透明性。
  2. 玩家基于“Flaggability”构建举报标准，将对游戏结果无帮助的行为视为可举报，而不仅仅是官方定义的毒性行为。
  3. 玩家在游戏内讨论举报且对举报进行组织化以提高惩罚的可能性。
• 优势: 与现有解决方案相比，本研究揭示了举报机制的社会复杂性，同时强调举报机制设计的漏洞如何反映竞技环境中的文化特征。
• 实验或评估结果:
  • 举报行为反映了玩家对胜利目标的重视以及对团队内其他成员行为的高期望。这种实践既包括直接举报毒性行为，也包括举报与玩家游戏目标相悖的行为，例如“不遵守游戏里的‘meta（主流玩法）’”。
• 局限性与未来方向:
  1. 局限性：研究数据仅限北美地区玩家，不适用于全球范围和其他类型的在线社区；未涉及举报后续的具体影响和整个社区监管流程。
  2. 未来方向：探索不同文化背景下的举报行为，研究举报机制如何增强社区参与感，以及设计更透明、更社会化的举报系统。

设计启示

• 透明性改进: 增加举报数据的可见性，例如提供详细反馈机制，让玩家了解举报的效果和处理进度。
• 情感支持设计: 针对举报者和被举报者设计基于情感支持的信息系统，以减少情绪负担。
• 社区参与增强: 允许用户从举报进入更高级别的社区治理角色，例如通过可信举报者计划。
• 行为分类优化: 改进毒性行为分类来反映玩家的实际体验，并融合“Flaggability”的概念以更好捕捉用户行为。

参考文献

文末列出了相关文献，有助于对在线社区监管和玩家行为研究进行进一步探讨。