叙事与视角：人工智能摘要如何引导社交媒体用户的观点与参与行为

文献标题

Narratives and Perspectives: How AI Summaries Steer Users' Opinions and Engagement on Social Media

出版信息

• 主题领域: AI生成摘要对社交媒体环境中用户观点和参与度的影响。
• 关键词: AI摘要、社会从众、极化、社交媒体、用户参与、观点动态、有害言论、文明言论、人机交互、AI伦理。

背景与问题

• 问题/挑战: AI生成摘要对用户观点和参与度的影响尚未被充分研究，特别是其可能强化社会从众、扭曲平衡感知以及加剧极化的潜力。
• 重要性: 随着AI工具日益融入社交媒体平台，理解这些影响对于塑造公共话语并可能影响民主进程至关重要。
• 动机与相关研究: 之前的研究探讨了AI在缓解错误信息和极化方面的作用，但尚未充分关注非交互式AI工具（如评论摘要）的心理和行为影响。本论文填补了这一空白，研究AI生成的叙述性摘要和同意百分比如何影响用户观点和参与度。

解决方案

• 提出的方法: 本研究通过对模拟Reddit帖子进行控制实验，评估两种类型的AI生成摘要——文本叙述性摘要和同意/不同意百分比分布。
• 创新点:
  1. 阐明AI百分比如何强化对多数观点的社会从众。
  2. 展示AI叙述性摘要如何造成平衡感知的误解，从而减少观点的变化。
  3. 强调帖子中的有害言论对用户参与度的阻碍作用，与AI工具无关。
  4. 提供设计建议以减轻AI工具的极化影响。
• 实验过程与关键技术:
  • 进行了一个包含144名参与者的实验，设置了四种条件：控制组（无AI工具）、仅AI百分比、仅AI叙述性摘要以及两种工具结合。
  • 参与者阅读了六个模拟Reddit帖子（三个文明帖子，三个有害帖子），极化程度各异（平衡、偏向同意极化、偏向不同意极化）。
  • 使用Likert量表和定性反馈测量观点变化（幅度和方向）、极化感知以及参与意愿。

结果

• 具体发现:
  • AI百分比显著增加了向多数观点的观点变化（Cohen’s d = 0.81；高达1.5 Likert量表变化）。
  • AI叙述性摘要通过造成平衡感知的误解减少了观点变化幅度（0.9 Likert量表变化）。
  • 结合使用两种工具产生了最大的观点变化（1.5 Likert量表变化）。
  • AI工具对参与意愿无显著影响；帖子文明程度是参与的主要驱动因素。
• 相较基线的优势:
  • AI百分比比单独阅读评论更能强化从众行为。
  • AI叙述性摘要相比控制组更能缓和观点变化。
• 实验/评估:
  • 混合方法：广义线性混合模型（GLMMs）和定性主题分析。
  • 模拟Reddit帖子，控制文明和有害言论。
  • 话题包括福岛核废水、公共交通、社交媒体16岁以下禁令（文明话题），乌克兰战争、枪支管控以及埃隆·马斯克的政府角色（有害话题）。
• 局限性与未来工作:
  • 模拟环境可能无法完全捕捉真实世界动态。
  • 未来研究应探索更细化的同意水平、平台特定影响以及AI摘要中的错误信息影响。

总结

本研究揭示了AI生成摘要显著影响社交媒体帖子中用户观点和感知的方式。AI百分比强化了对多数观点的从众行为，而AI叙述性摘要通过造成虚假的平衡感知减少了观点变化。帖子文明程度而非AI工具是驱动用户参与的主要因素。这些发现强调了负责任的AI设计的重要性，以减轻极化并促进批判性思维。未来工作应探索自适应界面和事实核查集成，以平衡信息传递与社会从众行为。