罗纳尔多是个装模作样的人！：在线论坛中生成式AI的使用如何影响辩论

研究背景与问题

• 作者发现了哪些问题或挑战？

  1. 在线论坛辩论具有促进批判性思维的潜力，但它也可能催生不和谐与敌对情绪。
  2. 随着生成式人工智能（Generative AI，GenAI）的广泛应用，其在在线辩论中的使用可能引发新问题，比如信息偏见、误导性内容的传播，以及对在线讨论生态的潜在负面影响。

• 为什么这个问题很重要？

  1. 在线辩论是社交媒体上思想交流的重要形式，但它同时也充满对抗性，可能加剧情绪化冲突。
  2. GenAI 的介入或许能提高辩论效率，但如何平衡其带来的信息准确性与多样性显得尤为迫切。

• 研究动机与相关工作

  1. 当前研究多集中于 GenAI 对个人写作任务的影响，但对于在线辩论场景下的生成式人工智能使用方式鲜有探索。
  2. 沿用 Toulmin 模型等传统论证模型，先前研究探讨了说服模型中的逻辑结构。然而，在 GenAI 与多用户辩论的互动结合上，具体的行为模式及长期效应值得深入挖掘。

解决方案

• 作者提出了哪些方法或解决方案？

  1. 设计了一个以足球话题“梅西 vs. C·罗：谁更优秀？”为主题的小型在线论坛，让用户在生成式人工智能 ChatGPT 支持下进行辩论。
  2. 该研究分为两部分：第一阶段为两人轮流发言的辩论；第二阶段引入第三方参与的自由发言辩论。

• 该解决方案的创新之处是什么？

  1. 将在线辩论的对抗性和协作性与生成式人工智能的写作协作机制相结合，探索GenAI如何在多用户同时使用的场景中发挥作用。
  2. 通过内容分析与主题分析，将论坛帖子、ChatGPT 记录与访谈数据相结合，全面挖掘用户与 GenAI 的互动方式。

• 实施步骤是什么？使用了哪些关键技术？

  1. 在“Forumotion”平台上搭建一个小型在线辩论论坛，限定仅允许用户使用 ChatGPT 作为外部信息来源。
  2. 数据收集包括用户的论坛帖子、ChatGPT 使用记录及随后的半结构化访谈内容。
  3. 使用定性内容分析与主题分析，解码用户的论点结构、AI 使用模式及用户体验行为。

研究成果

• 取得了哪些具体成果？

  1. 使用模式：

     • 参与者会通过设定特定上下文或角色（如“专业辩手”或“梅西迷”）来让 ChatGPT 的回复更加切合辩论场景，甚至诱导其生成更具攻击性的内容。
     • 在生成帖子时，很多内容表现出逻辑谬误，如草率概括、稻草人论证和人身攻击。
     • 当新的辩论者加入时，很多参与者减少对 ChatGPT 的依赖，更专注于与其他用户的互动。

  2. 辩论结构：

     • 用户的帖子包含三种主要论证要素：主张（包括价值主张、描述性主张等）、证据（统计数据、个人观察、实例等）和推理（包括反驳、类比及逻辑谬误）。
     • 价值主张和基于实例的证据使用频率最高，而草率概括是最常见的逻辑谬误。

  3. 动态变化：

     • 第三方加入时会促进现有用户之间更有创造力的互动，这一新变化表明新鲜观点可激发组内深度思考，但 GenAI 被视为支持角色而非主导角色。

• 与现有解决方案相比，它有哪些优势？

  • 研究视角上，该研究首次从多用户互动的角度探索 GenAI 在在线辩论中的协作角色。
  • 提供了如何在辩论场景中设计更有效 GenAI 互动系统的洞见。

• 实验或评估结果是什么？

  • 数据分析显示，人们在与 ChatGPT 协作中的某些行为（如草率采纳统计数据）可能无意间削弱了辩论的批判性深度。
  • 在更自由的辩论模式中，人类用户为了与他人更好地互动，大幅减少了对生成式 AI 的依赖。

• 局限性与未来方向

  1. 局限性：

     • 招募了高学历背景及大部分为非母语英语（亚洲地区）的参与者，可能限制了结果的普适性。
     • 限制用户仅能使用文本，未包括视频、图片等其他表达形式，这些在真实在线辩论中可能不可或缺。

  2. 未来方向：

     • 扩展研究到更大规模、更多样化参与者背景的社区。
     • 探索如何设计接口以更自然地整合 GenAI 功能，并优化人机协作效率。
     • 结合实际更多样化的在线论坛，同时允许多模态内容以更接近真实场景。

总结

此研究深入探讨了生成式人工智能在在线辩论中的角色，其结果揭示了用户如何灵活使用 ChatGPT 辅助辩论，同时强调了用户对辩论控制权的强烈维护以及在多人互动背景下 AI 使用频率的动态变化。这些发现为未来设计更能平衡效率与人性化需求的 AI 辩论助手提供了宝贵的思路。