《无知并非乐事》：设计个性化调节以应对社交媒体上的残障歧视仇恨

研究背景与问题

• 发现的挑战: 残障人士在社交媒体上频繁遭遇反智主义（ableist）仇恨以及微侵害（microaggressions）。平台的内容审核机制往往未能有效清除此类仇恨内容，甚至可能误删正常的与残障相关的内容。传统的内容审核无法准确反映残障用户的需求，导致他们暴露于有害内容中。
• 重要性: 反智主义内容不仅损害了用户的心理健康，还可能导致自我审查和社区互动减少。这种现象对倡导残障权益的内容创作者尤为显著。此外，这一问题揭示了更广泛的社交媒体治理问题，包括平台责任无法适应多样化用户的需求。
• 研究动机与关联系统: 现有的个性化内容审核工具（例如关键字过滤器、敏感度滑块或AI工具）虽然日渐普及，但缺乏面向反智主义仇恨的专门设计。同时，现有文献对于用户如何感知和使用这些工具，尤其是针对身份相关仇恨的工具，研究不足。

解决方案

• 提出的方法: 论文通过设计探针（design probes）和用户参与的方法，提出了一种面向反智主义的个性化内容审核工具，包括两大主要模块：1）基于反智主义类别的过滤器配置；2）多种个性化呈现仇恨内容的方案，如AI重述、内容警告等。
• 创新之处:
  1. 将反智主义细分为多个类别，支持用户按类别过滤内容。
  2. 提出了比简单隐藏内容更灵活的选项，例如显示警告或通过AI改写仇恨内容。
  3. 着重考虑残障用户对AI工具准确性和透明度的信任问题，提出了用户训练算法的交互模式。
• 实施步骤与技术:
  1. 用户研究: 与23名残障社交媒体用户进行访谈和小组讨论，探讨个人化过滤器的设计需求。
  2. 设计探针: 使用不同的界面选项（如开关、滑块和类型选择）探索如何配置反智主义过滤器，以及展示被过滤的仇恨内容的不同方式（如警告提示、重新措辞等）。
  3. 数据分析: 采用主题分析法分析参与者的反馈，提炼关键设计建议。

研究成果

• 具体成果:
  1. 多数用户偏好通过反智主义类型进行过滤，而非简单的二元开关或强度滑块。
  2. 参与者通常更喜欢内容警告，而非完全屏蔽或AI重述的方式，因为警告给予了更多的决策主权。
  3. 用户强烈表达对AI检测准确性的担忧，尤其是在敏感词汇（例如群体内部的“再认领”语言）和语境理解方面的能力。
• 与现有方案相比的优势:
  • 支持更加细粒度的内容过滤，能更好地满足残障用户的心理需求。
  • 更透明的系统设计（例如可“撤销错误过滤”）提高了用户对工具的信任度。
  • 突出了用户的自主能力，减少过度依赖算法的弊端。
• 实验结果:
  1. 用户反馈表明，基于反智主义类别的过滤设置提供了最佳的清晰性和易用性。
  2. 内容警告能在保护心理健康与管理内容之间达到较好的平衡。
• 局限性与未来方向:
  • 局限性: 当前研究基于静态探针设计，尚未测试互动性原型；样本偏向北美和欧洲的残障用户，可能无法全面反映全球观点。
  • 未来研究:
    1. 开发实际工具并进行行为研究，以验证其长期有效性。
    2. 探究其他身份仇恨（如种族歧视、性别歧视）的个性化过滤需求。
    3. 研究如何让过滤器更好地支持内容创作者的自我表达，同时不会限制社区活动或倡导。

总之，该研究通过深度分析与设计探索，为如何构建更加包容和安全的社交媒体环境提供了有价值的见解。同时强调了用户在个性化内容过滤中的决策权与透明度的重要性，为后续技术开发与实际部署奠定了基础。