辟谣的反常下游后果：在Twitter实地实验中，因发布虚假政治新闻而被其他用户纠正会增加后续分享低质量、有偏见和有毒内容的行为

文献标题

《Perverse Downstream Consequences of Debunking: Being Corrected by Another User for Posting False Political News Increases Subsequent Sharing of Low Quality, Partisan, and Toxic Content in a Twitter Field Experiment》

文献信息

• 主题领域: 社交媒体、虚假信息传播、事实核查
• 关键词: 虚假信息、事实核查、社交媒体、内容质量、政治倾向、语言攻击性

研究背景与问题

• 发现的问题或挑战: 社交媒体上的虚假信息传播对公共话语产生了重大负面影响。现有研究表明，专业事实核查有助于纠正错误观念，但其对用户未来信息分享行为的“下游影响”尚不清楚。
• 重要性: 尽管事实纠正通常能够改善与特定谬误相关的认知，但这些纠正是否能够提高用户随后分享内容的质量，并减少有害信息传播，仍需深入研究。这些问题对社交媒体设计、谬误干预策略及民主话语质量具有直接影响。
• 研究动机: 作者希望探讨虚假信息纠正可能产生的负面后果，比如让用户分享更低质量、更具有政治偏见及更具攻击性的内容，挑战现有社交纠正方法的有效性。

解决方案

• 研究方法: 进行Twitter场域实验，纠正分享虚假信息的用户，并观察纠正对其后续分享行为（如内容质量、党派倾向、语言攻击性）的影响。
• 创新之处:
  • 首次实验探讨纠正行为对用户后续分享影响的“下游效果”。
  • 比较用户原创推文与转发内容的差异，揭示注意渠道与偏好渠道的作用机制。
• 实施步骤:
  1. 用户收集与分类: 识别2000名曾分享虚假政治新闻链接的Twitter用户。
  2. 纠正消息设计与传播: 使用模拟白人男性的虚构Twitter账户，通过公开回复用户推文提供核查链接。
  3. 实验设计与数据收集:
     • 使用分段楔形设计(random stepped-wedge design)随机分配用户纠正日期。
     • 收集用户在纠正后24小时内的转发与原创推文数据。
  4. 结果分析: 分析纠正行为对分享内容质量、党派倾向以及语言攻击性的因果影响。

研究成果

• 具体成果:
  • 被纠正后，用户的转发内容质量显著降低，而原创推文质量无显著变化。
  • 被纠正后24小时内，转发内容政治倾向加剧，语言攻击性增强。
  • 效果主要表现在转发行为上，表明注意力被从准确性转向其他社交因素。
• 与现有解决方案的比较:
  • 与基于注意力引导的轻度准确性提醒（如发送私人消息）相比，公开纠正行为具有更强的社交性和对抗性，反而可能加剧负面后果。
• 局限性与未来方向:
  • 局限性:
    • 实验仅针对美国政治相关的虚假信息，未涵盖其他类型内容或其他文化背景。
    • 纠正时机距离虚假信息分享时间较久，可能影响结果。
    • 被使用的虚构账号限定为白人男性，其身份特征未深入探讨对效果的潜在影响。
  • 未来方向:
    • 探讨纠正公开与私密性、第三方帖子与用户自身帖子、人工身份与机器人身份对用户后续行为的影响。
    • 测试更礼貌、更间接的纠正语言是否能减轻负面影响。
    • 延伸研究不同国家、文化、平台（如Facebook、Instagram、Weibo）上的效果和适用性。
    • 进一步分析多次纠正行为与短期/长期影响关系。

总结与意义

• 本研究揭示社交纠正虚假信息可能引发的问题，为平台设计者和政策制定者提供了重要的参考。
• 强调了研究社交干预措施“下游效果”的重要性，呼吁在推行相关策略之前进行全面的定量评估与伦理审查，以避免反复传播虚假信息或加剧有害影响。
• 本研究表明，单纯的事实纠正可能并不足以改善网络信息质量，相关策略设计需充分考虑用户心理和行为复杂性。