在线讨论的主动审核：现有实践与算法支持的可能性

视频

DOI

为了解决不文明行为的广泛问题，许多在线讨论平台雇佣版主对违规内容采取行动，例如删除内容或对作者实施制裁。对已发布的反社会内容采取行动的这种反应性范式是目前最常见的审核形式，因此为最近将自动化引入审核过程的许多努力奠定了基础。相比之下，目前对其他审核范式——例如主动阻止反社会行为出现而非对其做出反应——以及算法支持在这些范式中可以发挥的作用所做的研究较少。在这项工作中，我们研究了在协作环境中的这种主动审核框架：以维基百科讨论页为案例研究。我们采用混合方法，结合定性分析和设计组件进行整体分析。通过对版主的访谈，我们发现，尽管缺乏技术和社交支持，版主已经从事了许多主动审核行为，例如预先干预对话以使其保持正轨。此外，我们通过构建原型工具并将其展示给版主，探索自动化如何协助现有的主动审核工作流程，并研究它提供的帮助如何融入他们的工作流程。结果反馈揭示了原型工具的优势和缺点，并提出了进一步开发此类辅助技术的具体步骤，以便最有效地支持版主现有的主动审核工作流程。