超越社区笔记：理解与构建社交媒体众包上下文系统的框架

文献标题

Beyond Community Notes: A Framework for Understanding and Building Crowdsourced Context Systems for Social Media

出版信息

• 研究领域: 社交媒体内容审核中的众包系统。
• 关键词: 众包上下文系统，虚假信息，内容审核，社交媒体，Community Notes，人机交互（HCI），设计空间，透明性，用户知情，算法策展。

背景与问题

• 问题/挑战: 社交媒体平台在有效应对虚假信息方面面临挑战。传统的事实核查方法资源密集、速度缓慢，且常被批评为存在偏见。众包上下文系统（CCS）提供了一种潜在的替代方案，但缺乏对其设计、功能和影响的全面理解。
• 重要性: CCS 通过提供可扩展的用户驱动内容审核工具，有潜力重塑信息生态系统，从而减少虚假信息传播并提高用户知情程度。
• 动机与相关研究: 先前的研究探讨了内容审核、专业事实核查和众包事实核查系统。然而，CCS 作为一个独立的系统类别仍未被充分研究，特别是在其设计、实施和规范性影响方面。

解决方案

• 提出的方法: 本文提出了一个理解和设计 CCS 的框架，包括一个理论模型和一个涵盖六个关键方面的设计空间：参与、输入、策展、呈现、平台处理和透明性。
• 创新点:
  1. 提出一个定义 CCS 并将其与现有系统区分开的理论模型。
  2. 提出一个设计空间分类法，概述六个方面的关键实施决策。
  3. 对 CCS 研究进行系统文献综述（n=56），重点分析 Twitter/X 的 Community Notes。
  4. 分析主要平台（Twitter/X、Meta、YouTube、TikTok）上 CCS 的实际实施情况。
• 过程与关键技术:
  • 使用 PRISMA 方法进行系统文献综述。
  • 对公共文档中的 CCS 设计特征进行归纳主题分析和亲和图法分析。
  • 将研究结果综合为理论模型和详细的设计空间。

结果

• 具体发现:
  • CCS 能够减少虚假信息传播并提高用户知情程度，但通常生成笔记的速度过慢，无法有效应对病毒式传播内容。
  • 桥接算法可缓解偏见，但无法有效处理极化内容，Twitter/X 上仅约 10% 的建议笔记被发布，Meta 上仅约 6%。
  • 用户认为 CCS 笔记具有可信度，有时甚至高于专业事实核查。
• 相较基线的优势: CCS 比专业事实核查更快、更便宜，并利用用户贡献扩展内容审核。然而，它们在速度、覆盖范围和质量上存在权衡。
• 实验/评估:
  • 文献综述将研究分为四个领域：系统影响（n=24）、贡献者行为（n=16）、系统设计（n=10）和用户感知（n=6）。
  • 对 CCS 实施的分析揭示了平台之间在参与、策展和透明性方面的显著设计差异。
• 局限性与未来工作:
  • 对 Twitter 风格 CCS 的集中关注可能遗漏了相关的早期研究。
  • 对平台实施的分析依赖于公共文档，这可能无法完全反映已部署的系统。
  • 未来工作应探讨未充分研究的设计方面（如参与激励、AI 集成），并通过改进透明性实现全面评估。

总结

本文提出了一个理解和设计众包上下文系统（CCS）的框架，这是一种应对社交媒体虚假信息的新兴工具。通过系统文献综述和对实际实施的分析，作者提出了一个理论模型和涵盖六个关键方面的设计空间。CCS 在减少虚假信息和提高用户知情程度方面显示出潜力，但在速度、覆盖范围和公平性上面临挑战。该框架为未来 HCI 研究优化 CCS 设计及其在更广泛内容审核生态系统中的整合提供了基础。