夺回控制权：基于屏幕的个人审核工具对抗Instagram仇恨言论

文献标题

Take the Power Back: Screen-Based Personal Moderation Against Hate Speech on Instagram

出版信息

• 主题领域: 针对社交媒体仇恨言论的个人化管理工具。
• 关键词: 仇恨言论，个人化管理，Instagram，社交媒体，以用户为中心的设计，算法推荐，对话空间，内容过滤，行动主义，德尔菲研究。

背景与问题

• 问题/挑战: 平台范围的管理系统由于偏见、缺乏上下文意识以及“一刀切”的方法，往往无法有效应对仇恨言论。自动化系统在检测诸如反言论或重新定义的侮辱性词汇等细微内容时存在困难，导致过度或不足的管理。
• 重要性: 仇恨言论对心理健康、公共话语和身份表达有严重影响，尤其是对活动家和边缘化群体而言。有效的管理对于创建更安全的在线环境至关重要。
• 动机与相关工作: 先前的研究探讨了个人化管理工具，但尚未研究用户需求如何在社交媒体平台的不同部分（称为“屏幕”）之间变化。本研究基于以往工作，调查了针对特定屏幕的个人化管理需求和功能偏好。

解决方案

• 提出的方法: 通过三轮德尔菲研究，识别针对仇恨言论的Instagram用户在特定屏幕上的个人化管理需求，并优先考虑相关功能。
• 创新点:
  1. 引入“屏幕”（如评论区、主页动态、Reels标签页）作为个人化管理的概念单元。
  2. 实证研究活动家在面对仇恨言论时的屏幕特定个人化管理需求。
  3. 基于用户输入对个人化管理功能进行优先级排序。
  4. 提供针对屏幕敏感的个人化管理工具的设计建议。
• 流程与关键技术:
  • 与40名在德国遭遇仇恨言论的活动家进行德尔菲研究。
  • 参与者对八个Instagram屏幕的个人化管理重要性进行评分，并提出功能建议。
  • 通过三轮问卷调查对功能列表进行迭代优化和优先级排序。
  • 分析包括定量评分、排名以及对自由文本输入的定性主题编码。

研究结果

• 具体发现:
  • 被评为最重要的个人化管理屏幕包括：所有评论 (100%)，自己帖子评论 (92.5%)，主页动态 (87.5%)，Reels标签页 (87.5%)，以及所有私信 (85.0%)。
  • 高度排名的功能包括：自定义对检测到的仇恨言论的响应，基于关键词的过滤，以及区分仇恨言论与反言论。
  • 对话型屏幕（如评论区、私信）优先考虑以输入为驱动的功能和监督功能，而算法推荐型屏幕（如主页动态、Reels标签页）更强调自动化和基于内容类型的过滤。
• 相较基线的优势:
  • 提供了针对屏幕的个人化管理视角，弥补了以往研究中将管理需求统一处理的不足。
  • 提供了可操作的设计建议，能够根据用户优先级和屏幕上下文进行定制。
• 实验/评估:
  • 针对Instagram的三轮德尔菲研究，参与者为八个屏幕的功能进行评分和排名，使用Likert量表和点分配任务。
  • 对自由文本输入进行定性分析，以识别新的功能需求。
• 局限性与未来工作:
  • 样本仅限于德国的活动家，可能导致结果偏向进步视角。
  • 研究结果特定于Instagram的架构，对其他平台的普适性需要进一步研究。
  • 未来工作应探索实际部署、跨平台适用性，以及与平台和社区管理的整合。

总结

本研究调查了Instagram不同屏幕上的个人化管理需求，重点关注遭受仇恨言论攻击的活动家。通过德尔菲研究，识别了关键屏幕（如评论区、主页动态）并优先考虑了自定义响应、关键词过滤和区分仇恨言论与反言论等功能。研究结果强调了根据特定屏幕定制管理工具的重要性，平衡用户控制与可用性，并同时关注对话型和算法推荐型空间。该研究为屏幕敏感的个人化管理工具提供了可操作的设计建议，并为未来关于个人、平台和社区管理整合的研究奠定了基础。