反应性写作者：与AI协作写作如何改变我们的想法参与方式

文献标题

Reactive Writers: How Co-Writing with AI Changes How We Engage with Ideas

出版信息

• 主题领域: AI写作助手对人类创意和写作过程的影响。
• 关键词: AI写作助手, 反应式写作, 人机协作, 意见塑造, 创意生成, 认知过程, 说服, 主题建模, 算法影响, 内联建议。

背景与问题

• 问题/挑战: 现有研究表明，AI写作助手可以影响用户表达的内容和观点，但对这些工具如何重塑写作的行为和认知过程的理解仍然有限。
• 意义: 理解这些变化对于设计能够维护作者自主性并减轻偏见的AI系统至关重要，同时也有助于解决关于公共话语和民主表达的更广泛问题。
• 动机与相关工作: 先前的研究已证明AI建议可以在用户不知情的情况下改变观点和写作内容。然而，这些研究主要关注结果，而非底层过程。本文旨在填补这一空白，研究AI建议如何在写作过程中影响创意生成、记忆检索和表达。

解决方案

• 提出的方法: 作者提出了*反应式写作（Reactive Writing）*的概念，这是一个描述AI建议如何从创意生成到内容评估和扩展重定向写作过程的模型。
• 创新点:
  1. 确定了一个三阶段的反应式写作过程：注意力捕获、基于同意的内容采纳、以及事后个性化。
  2. 结合定性访谈和对1,291次AI辅助写作会话的定量分析的混合方法研究。
  3. 提供了AI建议如何影响写作过程和内容的实证证据，包括对自写文本的间接影响。
  4. 提供了关于AI写作助手的说服潜力及其作为算法议程设定者角色的洞见。
• 过程与关键技术:
  • 对19名使用带有观点的AI写作助手的参与者进行了回顾性访谈。
  • 分析了1,291次写作会话的交互日志，研究AI建议主题如何传播到最终文本中。
  • 使用GPT-3.5-turbo和层次聚类开发了一个主题分类管道，用于分析写作中的主题变化。

研究结果

• 具体发现:
  • 使用AI辅助写作的参与者在写作论文时仅比未使用AI的参与者少花费7.5–10%的时间，尽管他们接受了25–31%的AI生成文本。
  • AI建议的主题对最终文本有强烈影响，建议主题的频率与参与者论文中这些主题的出现频率之间存在统计学显著相关性（整体文本R² = 0.85，自写文本R² = 0.51）。
  • 至少看到一个关于某主题的建议会使参与者写作该主题的几率增加3.97倍。
• 相较基线的优势:
  • AI辅助写作会话显示出比对照组更窄且更系统性偏向的主题覆盖范围。
  • 使用AI助手写作的参与者更可能写作AI引入的立场一致的主题。
• 实验/评估:
  • 定性访谈表明，AI建议中断了创意生成，并将注意力重定向到评估预生成内容。
  • 定量主题建模证实了AI建议对接受文本和自写文本的影响。
  • 统计模型证明了AI建议对主题频率和自写内容的影响。
• 局限性与未来工作:
  • 研究的实验环境可能放大了效果，与真实世界系统相比生态效度有限。
  • 研究基于一个有意设计为带有观点的AI助手；未来工作应探索更少干预性的设计和更广泛的人群。
  • 需要进一步研究反应式写作对认知参与和公共话语的长期影响。

摘要

本文提出了*反应式写作（Reactive Writing）*的概念，这是一个描述AI写作助手通过将注意力从创意生成转向评估和扩展AI生成建议的模型。通过一项混合方法研究，作者证明了AI建议显著影响了写作过程和内容，常常引入新的主题和框架，并在最终文本中持续存在。尽管参与者保持了一定的控制感，AI的建议却微妙地塑造了他们的写作方向和想法。这些发现突显了AI写作助手的说服潜力及其作为算法议程设定者的角色，对系统设计和公共话语提出了重要的启示。