在线恢复性正义工具的设计空间:以ApoloBot为例的研究

在线骚扰与反制工具参与式设计(Participatory Design)社会工作者内容治理与平台合规团队HCI 研究员

研究背景与问题

  • 作者发现了哪些问题或挑战? 作者指出,在线社区中传统的惩罚性内容管理策略(如删除内容和账户封禁)虽能遏制即时的有害行为,但通常无法满足受害者和其他相关人群的需求,也难以防止问题的再次发生。这导致用户可能感到情绪低落、不公平,或难以改善自己的行为。此外,如何将修复性司法原则(如调解与和解)引入在线空间仍是一个未充分研究的问题。

  • 为什么这个问题很重要? 在线伤害(如仇恨言论、公开羞辱、网络骚扰等)是一个广泛且持续的问题,影响了用户的心理健康与社区氛围。开发替代性解决方案(如修复性司法工具)可以有助于创建更健康的线上社区,同时减少重复发生的问题。

  • 研究动机与相关工作 修复性司法近年来在实体环境中取得了成功(如刑事司法系统和学校),主要通过对话和调解来修复人与人之间的关系。将这些原则推广到在线社区能够帮助受害者表达需求、促成施害者反思其行为,并促进社区整体的和谐。然而,当前学术界关于在线修复性司法的讨论主要停留在概念层面,缺乏具体可行的技术工具。

解决方案

  • 作者提出了哪些方法或解决方案? 作者开发了一款名为“ApoloBot”的Discord机器人,旨在促进线上社区内的道歉行为。ApoloBot以修复性司法的核心要素为框架,通过嵌入道歉请求和响应流程,让施害者和受害者可以在与社区管理者协同下进行安全且富建设性的交流。

  • 该解决方案的创新之处是什么?

    1. 技术实现:借助Discord的API和用户熟悉的Slash命令,ApoloBot与现有的社区工具无缝集成,从而降低了学习曲线。
    2. 修复性司法的技术嵌入:通过模拟线下的受害者与施害者会议,转化为可自动追踪的线上流程。
    3. 灵活性与选择性:受害者和施害者可以根据意愿参与道歉流程,而社区管理员负责监督并确保过程的公正性。
  • 实施步骤是什么?使用了哪些关键技术?

    1. 初始化流程:管理员通过Slash命令(如“/apolomute”)启动流程,指定施害者和受害者、事由和惩罚时长。
    2. 受害者线程:ApoloBot向受害者发送私密消息,邀请其提出道歉请求。
    3. 施害者线程:若受害者希望收到道歉,ApoloBot则向施害者发送消息,提供向受害者道歉以减轻惩罚的机会。
    4. 管理员审查:管理员审核施害者的道歉,确保语言适当。
    5. 最终决策:受害者决定是否接受道歉;若接受,管理员可解除施害者的禁言。

研究成果

  • 取得了哪些具体成果?

    1. 采访与部署阶段结果:通过采访16名Discord管理员并在6个社区部署ApoloBot,收集了关于工具的使用体验、社区反馈以及具体案例的见解。
    2. 探索性发现:详细阐明了修复性司法工具中的机会空间(如合适的社区类型、适用的场景)和可能的挑战(如多方参与时的复杂性)。
  • 与现有解决方案相比,它有哪些优势? 相较传统的惩罚性措施,ApoloBot设计更倾向于教育与和解,强调受害者需求和施害者的行为转化。它通过平台上常用的技术元素,与现有的内容管理工具无缝集成,降低了管理员的学习成本。

  • 实验或评估结果是什么?

    1. 成功案例:在中小型社区部署时,ApoloBot有效缓和了受害者与施害者之间的关系,并减少了重复性问题发生的几率。
    2. 未实现预期的情况:其他具有严重或复杂伤害的案例中,在受害者和施害者不能达成共识或完全参与时,工具无法完全满足修复性需求。
  • 局限性与未来方向

    1. 局限性
      • 一些社区由于规模过大或文化不适合,工具的潜在成功机会有限。
      • 受害者和施害者可能中途退出流程,影响最终效果。
      • 线上工具的自动化特性可能导致用户对其真实性和有效性产生质疑。
    2. 未来方向
      • 引入更多动态互动功能,增强受害者与施害者的交流质量。
      • 对工具使用进行透明化设计,提升信任。
      • 扩展工具的功能范围,涵盖伤害发生前的干预和事后的支持网络。
      • 支持教育性资源,帮助社区理解修复性司法理念并更好地应用工具。

这项研究不仅为在线社区的管理实践提供了一种创新的视角,同时也为未来的设计和开发工作提供了值得参考的方法论框架。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/188454/2025

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/10.1145/3706598.3713598
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2025
emoji_events
奖项
未标记奖项
group
作者
2 位作者
sell
研究子方向
在线骚扰与反制工具、参与式设计(Participatory Design)
work
职业/产业
社会工作者、内容治理与平台合规团队、HCI 研究员
article
内容状态
已索引正文
hub
相关论文
0 篇相关论文