反对发言者的视角：揭露在线仇恨斗争中的障碍和人工智能需求

文献标题

Counterspeakers’ Perspectives: Unveiling Barriers and AI Needs in the Fight Against Online Hate

文献信息

• 主题领域: 人机交互（HCI），反对仇恨言论的在线行动与人工智能支持
• 关键词: 仇恨言论, 反言论, AI支持反言论, AI媒介交流, 在线活动

研究背景与问题

• 问题和挑战: 在线仇恨言论的规模和复杂性不断增加，传统的内容审查机制（如删除或屏蔽），容易引发审查自由问题，同时无法全面解决仇恨言论问题。反言论（Counterspeech）作为一种替代方法，通过积极的回应和社区互动，避免审查的负面影响，但其实施面临重大挑战，如资源有限、个人风险和效果难以评估。
• 重要性: 随着仇恨言论在网络空间的暴增，这些问题成为创建健康在线环境的关键议题。同时，AI的参与如何为反言论提供支持以及潜在的风险值得深入研究。
• 研究动机: 当前研究缺乏对反言论实践中实际用户需求和AI支持角色的系统性理解。研究旨在通过面向反言论活动者和普通社交媒体用户，探讨反言论中的障碍和AI如何协助解决这些问题。

解决方案

• 方法:
  • 半结构化访谈：对10位长期从事反言论的活动者进行深入访谈，以了解深度经验。
  • 大规模调查：针对342名普通社交媒体用户进行问卷调研，捕捉更广泛的反言论参与经验。
• 创新之处:
  • 首次系统性地研究反言论的用户视角，包括其障碍、动机与对AI工具的需求。
  • 提出了一种三步的反言论参与理论（决定回应 -> 构建回应 -> 发布及处理后续）。
  • 综合用户对AI助力的展望，提出工具设计考虑，如增强用户能力、情感支持和事实检查。
• 实施步骤:
  • 访谈和调查的数据采集与分析采用质性和定量结合的方式，包括开放编码和理论地扎。
  • 基于用户的需求和反馈，明确反言论相关AI工具需要具备的功能特性（例如：信息聚合、情感管理和自动生成响应）。

研究成果

• 具体成果:
  • 反言论障碍划分为四个类别：资源有限（例如时间、精力）、培训不足（例如如何构建有效言论）、影响不明确（例如难以看到效果）、个人伤害（例如精神压力）。
  • AI工具被设想为一种减轻障碍的途径：
    • 功能需求包括引导用户决策（如发现仇恨言论）、帮助构建个性化反言论、支持情感交流和事实核查。
    • 广泛用户对AI工具的接受度和偏好差异显著，与社会活动者相比，普通用户更倾向于自动化解决方案。
  • 用户对AI参与提出了多个担忧，主要包括：
    • 缺乏真实性与信任：AI生成的内容可能被视为不真诚或不可信。
    • 道德代理的缺失：使用AI可能降低用户的道德责任感。
    • 功能上的疑虑：例如AI在文化语境和情感智能上的局限性。
• 优势:
  • 提高了反言论的效能与覆盖范围，引导公众参与，同时降低用户精神压力。
  • 与现有的大幅自动化反言论生成相比，本研究强调人与AI协作设计的重要性以确保真实性。
• 局限性与未来方向:
  • 局限性：研究样本以北美为主，难以泛化到其他文化和地区；AI定义宽泛，未深入探索用户对技术的不同理解。
  • 未来方向：
    • 深入研究文化背景对反言论的影响及AI工具的适应性。
    • 开发更具透明度、公平性和文化适应性的AI系统，尤其是针对少数群体。
    • 探讨不同平台与内容格式（如短视频）中的反言论策略。

这项研究揭示了在线反言论的复杂性，明确了AI工具的潜力与局限性，并为设计兼顾功效、道德与用户健康的反仇恨言论技术提供了宝贵参考。