"Facebook想做就做": 用户体验争议性算法内容审核

人们对设计可争议的算法决策系统越来越感兴趣。在这项研究中，我们研究了用户如何体验对不利的社交媒体内容审核决策的争议性。大规模在线实验测试了不同形式的申诉是否能改善用户对自动决策的体验。我们研究了对用户感知算法决策的公平性、可问责性和信任度（FACT）的影响，以及他们的控制感。有趣的是，我们发现与没有申诉的基线相比，没有任何申诉设计能改善FACT感知。我们定性地分析了用户如何写申诉，发现他们不仅对决策本身提出争议，还对更基本的问题提出争议，如内容审核的目标、自动化理念以及系统整体的不一致性。我们最后提出了设计可争议性的建议，并讨论了设计可争议性的挑战。