创作者为何违规：道德脱离与自我控制的定量证据

文献标题

Why Creators Break Rules: Quantitative Evidence on Moral Disengagement and Self-Control

出版信息

• 主题领域: 影响社交视频创作者违规行为及其内容审核经历的心理因素。
• 关键词: 内容审核、道德脱离、自我控制、违规行为、视频创作者、应对策略、收入依赖、公平感知、恢复性正义。

背景与问题

• 问题/挑战: 当前的内容审核系统主要集中于惩罚违规内容，却忽视了驱使创作者违规的心理因素及其在审核后的行为。这限制了审核系统在促进行为改进方面的有效性。
• 重要性: 理解违规行为背后的心理机制可以为设计更好地支持创作者减少再犯和提高合规性的审核系统提供依据。
• 动机与相关工作: 尽管已有研究探索了有害内容的自动检测和审核流程，但对违规者心理过程的关注较少。广泛应用于犯罪学和组织不当行为研究中的自我控制和道德脱离理论，为在内容创作背景下研究这些过程提供了框架。

解决方案

• 提出的方法: 本研究探讨了自我控制和道德脱离如何影响创作者制作违规内容、其审核经历以及审核后的感知和应对策略。同时研究了收入依赖在心理影响与违规行为及应对策略之间的调节作用。
• 创新性:
  1. 将自我控制和道德脱离理论扩展到内容审核情境中。
  2. 探索审核后的行为，包括公平感知和应对策略。
  3. 研究收入依赖作为心理影响与违规行为及应对策略之间的调节因素。
• 研究流程与关键技术:
  • 对400名视频创作者进行了在线问卷调查。
  • 测量了自我控制、道德脱离、收入依赖、违规视频创作、审核经历、公平感知和应对策略。
  • 使用结构方程模型（SEM）分析数据，以验证关于直接效应和调节效应的假设。

研究结果

• 具体发现:
  • 道德脱离与违规视频创作正相关（β = 0.284, p < 0.001），与审核经历正相关（β = 0.427, p < 0.001）。
  • 自我控制与违规视频创作负相关（β = -0.300, p < 0.001），与审核经历负相关（β = -0.190, p < 0.01）。
  • 收入依赖与违规视频创作正相关（β = 0.157, p < 0.05），与审核经历正相关（β = 0.223, p < 0.001）。
  • 自我控制促进建设性应对策略（如问题解决、积极态度），但不促进回避行为。
  • 道德脱离与回避性应对策略（如回避、幻想）相关。
• 相较基线的优势:
  • 提供了对违规行为及审核后行为的心理解释，超越了规则说明或惩罚措施。
  • 确定了收入依赖作为风险放大器的作用，影响了内容创作中的违规行为及审核后参与。
• 实验/评估:
  • 调查了来自多个平台的400名创作者，其中63.75%报告了审核经历。
  • 使用经过验证的量表和自我开发的测量工具评估违规视频创作和审核经历等构念。
  • 在结构方程模型分析中控制了人口统计变量和平台使用情况。
• 局限性与未来工作:
  • 依赖自我报告数据，可能因社会期望偏差而低估违规行为。
  • 将所有形式的违规行为聚合为一个类别，限制了对具体行为的洞察。
  • 未通过外部验证（如账号链接）确认创作者身份。
  • 未来研究应探索违规行为的频率/严重程度、平台特定政策和货币化结构。

总结

本研究探讨了社交视频创作者违规行为及审核后反应的心理因素。研究发现，道德脱离增加了违规行为和回避性应对，而自我控制减少了违规行为并促进了建设性应对。收入依赖放大了内容创作中的冒险行为以及惩罚后与审核系统的互动。这些发现将自我控制和道德脱离理论扩展到内容审核领域，并强调了需要通过恢复性方法解决违规行为的心理驱动因素。研究为设计支持行为改进和合规的审核系统提供了可操作的见解。