AI驱动的调解策略用于在线辩论中的观众去极化

文献标题

AI-Driven Mediation Strategies for Audience Depolarisation in Online Debates

文献信息

• 主题领域: 人机交互 (HCI)、心理学、人工智能在社会媒体辩论中的应用
• 关键词: 社交媒体，辩论，调解，人工智能，去极化，生成式AI，心理学，人机协作，聊天机器人

研究背景与问题

• 发现的问题或挑战:

  • 社交媒体上的极化现象加剧了社会分裂，简单的内容审查方法（如删除或标记争议内容）无法有效解决辩论背后的深层次分歧。
  • 当前的内容审查方法抑制了公开讨论，并可能将争议转移到匿名论坛和回音壁效应更严重的平台。
  • 观众（非辩论参与者）是社交媒体去极化的潜在关键受众，但这些受众在分裂性问题下容易受到非建设性观点的影响。

• 重要性:

  • 过度极化的讨论不仅会影响参与者，还会对被动观众产生负面影响，包括对社会问题的无力感（存在性恐惧）及对社会信任的进一步削弱。
  • 相较于简单的内容审查，促进深入的讨论、提出创新的解决方案能够补强公众批判性思维并减少极端主义倾向。

• 研究动机与相关工作:

  • 通过将心理学冲突调解理论与生成式语言模型结合，将重点放在非强制性和建设性的信息调解上。
  • 本文参考Thomas-Kilmann冲突模式工具(TKI)的五种解决冲突策略来设计人工智能调解策略。
  • 当前研究中的讨论多聚焦于内容调解、偏见检测等，而对心理学驱动的AI调解框架探索较少。

解决方案

• 提出的方法或解决方案:

  • 利用GPT-4生成式语言模型，根据TKI的五种调解策略（协作、妥协、力争、迎合、回避）来设计调解机器人。
  • 调解机器人通过“提问、声明和回应”三种方式介入辩论，用以提供新角度或共识驱动型解决方案。
  • 将调解策略应用于模拟在线辩论环境，并分析其对观众的观点去极化效果及对辩论的感知形式的影响。

• 创新之处:

  • 首次将心理学的TKI冲突模式工具完整应用于人工智能调解设计。
  • 通过调教大语言模型（prompt tuning）使其生成特定心理学策略一致的调解内容，既可扩展心理学调解理论，也可用于现实中的社交平台。
  • 研究对象主要聚焦于辩论的观众而非参与者，以实现影响更大范围的社交媒体用户群体。

• 实施步骤与关键技术:

  1. 生成调解内容:
     • 使用GPT-4实现基于TKI策略的调解。
     • 确保调解句式的标准化和一致性（例如通过问句、回应句模版统一生成）。
  2. 实验设计:
     • 选择5个具有争议性和多样化的辩论主题（例如COVID-19疫苗强制接种、俄罗斯-乌克兰难民接纳问题）。
     • 使用Reddit风格的可视化贴文设计，以模拟真实的用户辩论场景。
  3. 研究问题(RQs):
     • RQ1: 调解策略对观众感知说服力的影响。
     • RQ2: 调解策略对观众自身意见变化和去极化的效果。
     • RQ3: 调解策略如何影响观众对辩论有可能达成共识的感知。
  4. 定量与定性评估:
     • 使用Perceived Argument Strength (PAS)指标对调解内容的说服强度进行评分。
     • 利用7点Likert量表监测观众的意见变化及对共识可能性的感知。

研究成果

• 具体成果:

  • 调解策略的效果对比:
    • 高合作性的策略（例如协作与迎合）在增强论点说服力（PAS）和推动观点去极化上更为有效。
    • “迎合”（Accommodating）策略表现最为突出，其去极化效果是无调解情景的三倍。
    • 强势（“力争”）策略虽具有明显的攻击性，但会加剧观点分歧。
    • “妥协”策略意外地导致了一些受访者的进一步极化。
  • 观众的心理影响:
    • 高合作性调解策略能更有效地引发批判性思考，例如鼓励观众更全面地考量争议双方的观点。
    • 一些低合作或回避性策略也能通过转移主题来减少直接对抗。
  • 共识达成感知:
    • 使用“妥协”策略的调解机器人显著提高了观众对辩论双方达成共识可能性的评估。

• 与现有解决方案相比的优势:

  • 相比传统内容监管，本研究提出的调解策略没有审查言论，而是通过提出建设性观点促进讨论。
  • 聚焦观众而非辩论参与者，使调解的影响范围从个体扩展到更广泛的社交媒体用户群体。

• 实验或评估结果:

  • 通过对144名受众实验分析，验证了调教的GPT-4能够生成心理学驱动的高度一致的调解输出（88.21%的策略匹配率）。
  • 数据表明，高合作性的调解策略在去极化及提升观众对共识可能性的感知方面最为有效。

• 局限性与未来方向:

  • 本研究仅聚焦于观众对调解内容的反应，对辩论参与者的动态反应及机器人应对策略研究不足。
  • 未来研究应探索针对不同社区语言文化的调解定制化，以及调解与内容监管的结合触发机制。
  • 关于语言模型的伦理性，例如是否保持中立立场及防止模型的潜在偏见，也值得深入研究。