对暂停状态感到不安吗？暂停时长在流行社交平台上的相对有效性

研究背景与问题

• 问题或挑战: 当前许多数字平台在应对违反社区规则的行为时，会施加影响用户行为的后果（如警告、暂时或永久禁用账号等）。但与刑事司法领域相比，关于这些后果在数字平台中相对有效性的研究尤其是针对不同时长的影响，较少且证据有限。例如，是否较长的暂停时间比较短的暂停时间对行为改进更有效，还缺乏清晰的实证研究。此外，这些干预措施的长期效力如何或是否对不同用户群体产生差异，也尚未被深入探讨。
• 重要性: 随着平台政策从惩罚性措施转向更注重修复性正义（例如旨在促进行为改善的策略），了解暂停时间对用户行为的相对影响，有助于平台改善规则执行并减少重复违规行为。这种优化不仅有助于平台减少有害行为，还能够降低用户流失或降低参与度对商业数据的负面影响。
• 研究目标: 本论文主要围绕以下三个研究问题:
  1. 暂停时间的长短对违反者后续违规行为及平台参与度（如活跃天数）的影响是什么？
  2. 暂停时间的效果会随着时间衰弱吗？如果是，这种衰弱的时间和程度如何？
  3. 不同暂停时间对初次违规者和多次违规者的影响有何不同？

解决方案

• 实验设计:
  • 使用了两个大型现场实验，其中包含超过77万名用户的实验数据，分别针对首次违规用户和二次违规用户。
  • 实验1 对比1小时与1天的暂停时间，应用于首次违规用户。
  • 实验2 对比1天与3天的暂停时间，应用于第二次违规用户。
  • 均使用了CUPED方法来控制实验前差异并提高实验结果的敏感性。
• 关键技术:
  • 平台通过用户举报和自动分类器结合人工审核决定用户的违规行为。
  • 在实验窗口期内记录用户的重复违规行为、收到的举报次数以及在平台上的活动时间等指标。
• 创新点:
  1. 首次针对数字平台详细比较了不同暂停时长的政策效果，提供了精准数据支持。
  2. 采用了多个行为和参与度指标（如重复违规率、总处罚次数、用户活跃天数）来衡量暂停的综合影响。
  3. 探索了暂停时长对不同群体（首次与多次违规者）的异构效应。

研究成果

• 主要发现:

  1. 暂停时长越长（如1天对比1小时，3天对比1天），越能有效减少重复违规率（减少幅度为7%至8%），同时延长用户在违规行为中的“停顿时间”（增加7%-9%）。
  2. 与违规行为的减少相比，暂停时间对用户的整体参与度（如总时间或活跃天数）的影响较小，不显著或仅减少1%-2%。
  3. 暂停时间的效果随时间减弱，但可持续至少3周。例如，实验3周后，1天暂停组比1小时暂停组的重复违规率仍低约3%。
  4. 对于首次违规者，较长的暂停时间效果更加显著，违规率减少幅度高达13%，而对多次违规者的减少幅度较小（仅约4%）。

• 优势:

  • 提供了细致且数据丰富的实证研究，有助于平台在规则执行与用户参与度之间找到平衡。
  • 研究结果支持平台根据用户违规历史提供更有针对性的暂停策略。
  • 可为其他社交和游戏平台设计修复性后果措施时提供借鉴。

• 实验数据:

  • 实验1中1小时暂停用户后续违规率为27%，而1天暂停用户这一比例为25.2%。
  • 实验2中1天暂停后违规率为47.2%，而3天暂停组为43.4%。

• 局限性与未来方向:

  1. 本研究暂停时间上限为3天，未来研究可引入更长暂停时间以探索更长期效力。
  2. Roblox平台的特性（如创立替代账号的难易度、用户群体的年龄分布）可能对研究结果的外部适用性有一定影响。
  3. 实验设计未能直接控制或捕捉用户之间的潜在网络干扰，例如朋友间对暂停政策的讨论传播对个体行为产生的次生影响。

结论

研究表明，较长的暂停时间对加强平台管理和促进用户行为改善具有显著效果，尤其是对首次违规者。尽管效果随时间削弱，但在暂停政策制定的时间长短选择上，该实验为平台管理者提供了量化和实证依据。