算法标记对公平性的影响：来自维基百科的准实验证据

视频

DOI

在线社区版主经常依赖社交信号（如用户是否有账户或个人资料页面）作为用户可能产生问题的线索。依赖这些线索可能导致"过度画像"偏见，因为版主关注这些信号却忽视他人的不当行为。我们认为，部署用于提高审核工作效率的算法标记系统也可以通过减少对社交信号的依赖并使其他所有人的违规行为更加可见来使审核操作对这些用户更加公平。我们分析了维基百科版主在 RCFilters 系统（显示社交信号和算法标记）调解下的行为，并估计被标记对版主操作造成的因果效应。我们表明，算法标记的编辑被回退的频率更高，尤其是来自具有积极社交信号的成熟编辑者的编辑，而且标记降低了审核操作被撤销的可能性。我们的结果表明算法标记系统可以带来更高的公平性，但这种关系是复杂的和有条件的。