保守派、跨性别者和黑人社交媒体用户的不成比例内容移除与差异化的内容审核体验：边缘化与审核灰色地带

DOI

社交媒体网站使用内容审核来尝试为用户培育安全空间和准确信息。然而，内容审核决定可能不会对所有类型的用户平等应用，并可能导致与用户性别、种族或政治取向相关的不成比例审查。我们进行了一项涉及定性分析和调查数据定量分析的混合方法研究，以了解哪些类型的社交媒体用户的内容和账户被移除的频率高于其他人，哪些类型的内容和账户被移除，以及被移除的内容在不同群体之间有何差异。我们发现数据集中有三个社交媒体用户群体经历的内容和账户移除频率高于其他群体：政治保守派、跨性别者和黑人。然而，每个群体被移除的内容类型差异很大。保守派参与者的被移除内容包括冒犯性或所谓的冒犯性内容、错误信息、COVID相关内容、成人内容或仇恨言论。跨性别者的内容经常被标记为成人内容，尽管其符合网站指南，可能是批评 dominant 群体（如男性、白人）或具体与跨性别或酷儿议题相关。黑人参与者的被移除内容经常与种族正义或种族主义相关。更广泛地说，保守派参与者的移除通常涉及根据网站指南为创建安全和准确信息空间而移除的有害内容，而跨性别者和黑人参与者的移除通常涉及与其边缘化身份表达相关的内容，这些内容尽管符合网站政策仍被移除，或属于内容审核灰色地带。我们讨论了使内容审核对边缘化社交媒体用户更加公平的可能前进方向，例如拥抱和专门设计内容审核灰色地带。