去殖民化内容审核：统一的全球社区标准类似于乌托邦式的平等还是西方权力霸权？

文献标题

去殖民化内容审核：统一的全球社区标准是乌托邦平等的体现还是西方权力霸权的延续？

文献信息

• 主题领域: 社交媒体内容审核与去殖民化研究
• 关键词: 去殖民化、内容审核、关怀、全球南方、社交媒体、西方霸权、人工智能偏见、全球标准、算法透明性、用户体验

研究背景与问题

• 作者发现的挑战: 社交媒体平台的内容审核通常基于西方的价值标准，尤其是美国的法律和文化框架（如第一修正案），这忽视了全球南方（如孟加拉国）用户的社会文化差异。这样的审核系统可能强化历史上的不平等与文化压迫，限制少数群体的声音。
• 重要性: 全球南方的用户占社交媒体增长的主要份额，但他们在内容审核中的需求和权益却未被充分关注。不公平的内容审查可能导致反殖民性表达的进一步边缘化，同时可能延续数字殖民主义。
• 研究动机与相关工作: 当前主要的内容审核研究和政策讨论倾向于集中于西方用户的体验，研究全球南方用户的内容审核影响仍然匮乏。本文试图填补这一研究空白，并通过去殖民化的视角重新思考内容审核的框架与实践。

解决方案

• 提出的方法: 本研究采用去殖民化视角，通过对19名孟加拉国Facebook用户的访谈，了解他们在社交媒体内容审核中的实际感受与应对策略，并提出改进内容审核体系的建议。
• 方法的创新之处: 结合“关怀”理论，从伦理、劳动和影响三个维度探讨如何构建更加公正的内容审核体系。其中，“去殖民化关怀”强调在地化和文化多样性，呼吁平台举措超越普世价值，贴近不同社群的实际需求。
• 实施步骤:
  1. 设计半结构化访谈以了解孟加拉国用户的内容审核遭遇；
  2. 使用归纳性主题分析对用户需求和意见进行分类；
  3. 提出改变内容审核基础设施的行动建议，包括技术改进、政策参与和用户教育。

研究成果

• 具体成果:
  1. 确立了内容审核中的殖民化特征：包括权力不对等、对西方价值观的偏重以及对历史与文化多样性的无视；
  2. 揭示了用户面临的挑战，如算法语言偏见、政策模糊性、上诉过程不透明及缺乏用户反馈机制；
  3. 提出了多项去殖民化内容审核建议，包括：
     • 增强社区标准的可访问性，使用当地语言制作简化指南；
     • 在审核流程中加入更多人类监督并提升透明性；
     • 采用修复式正义方法，为初次违规用户提供教育机会而非直接惩罚。
• 与现有研究的比较:
  • 与大多研究集中于西方用户体验不同，本研究为全球南方用户提供了独特的视角；
  • 提出了具体的设计与政策改进措施，而非仅停留在理论讨论。
• 实验或评估结果:
  • 用户反馈揭示了现行系统的不公正性，同时也表达了对更加透明、公平和文化敏感的审核系统的需求。
  • 尽管研究样本有限（19人），但回答了关于全球用户体验异质性的问题。
• 局限性与未来方向:
  1. 参与者主要是男性、城市居民和较高学历者，这种样本结构可能未能全面反映所有孟加拉国用户的观点；
  2. 仅关注Facebook平台，未来研究可扩展至其他社交媒体；
  3. 呼吁进一步基于多语种和多地域的全球南方用户展开内容审核调查与实践评估。