AppealMod：引入摩擦以减少处理用户申诉的审核员工作量

DOI

随着内容审核成为所有社交媒体平台和在线社区的核心方面，人们对如何使审核决定可争议的兴趣日益增长。在个人社区管理自己活动的社交媒体平台上，处理用户申诉的责任落在社区内部的志愿者身上。虽然有越来越多的工作致力于理解和支持志愿者审核员的工作量，但人们对他们处理用户申诉的实践知之甚少。通过与Reddit审核员协作和迭代设计过程，我们发现审核员在调查用户封禁申诉时花费了大量精力，并希望直接与用户互动并保留每个决定的自主权。为了满足他们的需求，我们设计和构建了AppealMod系统，该系统通过在人工审核员审查申诉之前要求用户提供额外信息来引入申诉过程中的摩擦。除了给审核员更多信息外，我们预计申诉过程中的摩擦将导致用户的选择效应，许多不真诚和有毒的申诉在人工审核员关注之前就被放弃。为了评估我们的系统，我们在拥有超过2900万用户的Reddit社区进行了为期四个月的随机现场实验。由于选择效应，审核员只查看了30%的初始申诉和不到10%的有毒措辞申诉；然而，与对照组相比，他们批准的大致相同数量的申诉。总体而言，我们的系统在减少审核员工作量和最小化其接触有毒内容方面是有效的，同时尊重他们直接参与和申诉自主权的偏好。