HateBuffer：通过仇恨言论内容修改保护内容审核员的心理健康

仇恨言论是在线平台上持续存在且尚未解决的挑战。内容审核员在审查用户生成内容并保护观众免受仇恨言论侵害的前线工作时，常常发现自己无法免受持续接触攻击性语言带来的心理负担。为保护审核员的心理健康，我们设计了HateBuffer，它能隐藏仇恨言论的攻击目标，将攻击性表达重新表述为温和形式，并在审核员选择查看时展示原始内容。我们对80名参与者进行了用户研究，包括在虚构新闻平台上进行的模拟仇恨言论审核任务，随后进行半结构化访谈。尽管参与者在使用HateBuffer时对评论的仇恨程度评分更低，但与对照组相比，他们的情绪并未改善，疲劳感也未减少。然而，访谈中参与者认为HateBuffer是抵御仇恨言论中情绪传染和偏见观点正常化的有效缓冲。更重要的是，HateBuffer并未影响审核准确性，反而略有提升召回率。我们探讨了HateBuffer的感知与其对心理健康实际影响之间差异的可能原因，并强调文本内容修改技术作为营造更健康内容审核环境的工具具有广阔前景。