分类及其对在线骚扰的影响：HeartMob的设计洞察

在线骚扰是一个普遍而有害的问题。自然语言处理和机器学习等技术是识别滥用语言的很有前景的方法，但它们未能解决自动化标签和分类所延续的结构性权力不平等方面。同样，平台政策和报告工具似乎是针对同质化用户群体设计的，没有考虑到个人经历和社会压迫体系。本文描述了HeartMob的设计和评估，HeartMob是一个由受最严重在线骚扰影响的人构建并为其服务的平台。我们对18名HeartMob用户（既有骚扰目标也有支持者）进行了访谈，了解他们的骚扰经历以及对网站的使用情况。我们研究了技术系统、平台政策和用户实施的分类系统，以证明：1）标签化用于验证（或否定）骚扰经历；2）标签化激励旁观者提供支持；3）将内容标记为骚扰对于揭示围绕适当用户行为的社区规范至关重要。我们通过Bowker和Star的分类理论视角讨论这些结果，并描述了标签化和分类在线虐待的启示。最后，受交叉女权主义理论的启发，我们认为充分解决在线骚扰需要不断将弱势用户的需求整合到在线平台的设计和审核中。