规范之声：研究counterspeech机器人对在线社区旁观者的影响

文献标题

Echoes of Norms: Investigating Counterspeech Bots’ Influence on Bystanders in Online Communities

出版信息

• 主题领域: 反言论机器人及其在网络仇恨言论情境中对旁观者的影响。
• 关键词: 反言论，仇恨言论，网络社区，旁观者，聊天机器人设计，认知策略，情感策略，语气，句式。

背景与问题

• 问题/挑战: 现有关于反言论聊天机器人的研究主要集中在遏制仇恨言论者和支持受害者，但其对旁观者——这一在塑造社区规范中可能最关键的群体——的影响仍不明确。
• 重要性: 旁观者是网络社区中的“沉默大多数”，对主流态度和规范的形成有重要影响。理解反言论如何影响旁观者对于促进更健康的网络环境至关重要。
• 动机与相关研究: 先前研究强调了反言论在通过传染效应、情感和身份影响塑造规范方面的潜力。然而，关于聊天机器人介导的反言论对旁观者影响的系统实证证据有限，这使得我们对其更广泛的社会影响的理解存在空白。

解决方案

• 提出的方法: 开发一个反言论策略框架，并创建原型聊天机器人Civilbot，能够基于句式、语气和策略意图生成多样化的反言论回应。
• 创新性:
  1. 首次研究反言论聊天机器人在网络仇恨事件中影响旁观者的机制。
  2. 开发了一个统一的实验框架，将句式、语气和策略意图整合为八种不同的反言论策略。
  3. 提供了反言论聊天机器人设计的见解，明确考虑旁观者在应对仇恨言论中的作用。
• 过程与关键技术:
  • 通过文献综述综合反言论策略并开发统一框架。
  • 构建Civilbot，能够生成涵盖八种策略组合的反言论回应。
  • 采用混合方法的被试内实验，52名参与者评估Civilbot在感知反言论质量、主观接受度和行为倾向方面的影响。

结果

• 具体发现:
  • Civilbot被认为具有可信度（3.33/5）且能够强化规范，但在“强理由”等说服性指标上得分较低（2.84/5）。
  • 积极语气的认知策略在感知质量上显著优于情感策略（F = 24.20, p < 0.001, Cohen's f = 0.34）。
  • 行为影响较为微妙，包括引导、替代、负面示范和逆向激励效应。
• 相较基线的优势: Civilbot的结构化反言论框架提供了对策略有效性的细致洞察，在促进社区层面的对话和批判性反思方面优于通用反言论方法。
• 实验/评估:
  • 参与者选择八个仇恨言论主题，并体验了涵盖所有策略类型的反言论回应。
  • 指标包括感知反言论质量、主观接受度以及行为倾向的前后变化。
  • 数据分析结合了定量方法（ANOVA, t检验）和参与者反馈的定性主题分析。
• 局限性与未来工作:
  • 短期实验室研究可能抑制自然行为；未来需要开展长期的实地研究。
  • 应探索针对具体情境的自适应反言论策略机制。
  • 需进行跨文化研究以评估其在中国以外的普适性。
  • 应集成实时检测和生成能力以实现实际部署。

总结

本研究探讨了反言论聊天机器人在网络仇恨言论情境中对旁观者的影响，重点研究了Civilbot，这是一款设计用于根据八种策略提供情境感知反言论的原型机器人。研究发现，Civilbot被认为具有可信度并能强化规范，但在深层推理方面受到限制。认知策略与积极语气的结合最为有效，而情感策略显示出情境价值。行为影响较为细腻，包括引导、逆向激励等。Civilbot还通过提供信息、缓解情绪和鼓励批判性反思，促进了社区氛围的塑造。这些发现为设计能够根据情境调整策略、整合可信证据并超越文本模式的反言论机器人提供了重要启示，从而推动更健康的网络环境发展。