"帮我" versus "替我做": 为科学新闻写作中融入LLM的工具设计代理权

文献标题

“Helping Me Versus Doing It for Me”: Designing for Agency in LLM-Infused Writing Tools for Science Journalism

出版信息

• 主题领域: LLM工具对记者在编辑决策中的自主性的影响。
• 关键词: 科学新闻报道, 生成式人工智能, 自主性, 价值敏感设计, 提案写作, 自主权, 专业价值, LLM工具, 创造力, 编辑工作流程。

背景与问题

• 问题/挑战: 生成式人工智能在新闻领域的应用可能通过重塑编辑决策和执行过程削弱记者的自主性，从而潜在地破坏诸如自主权、批判性思维和技能发展的专业价值。
• 意义: 记者在维持知情公众话语中发挥着关键作用，保护他们的自主性有助于确保透明性、准确性和公共利益等价值的实现。
• 动机与相关工作: 先前的研究表明，生成式人工智能工具可能将控制权从用户转移到系统，从而影响决策并减少批判性参与。然而，目前对这些动态如何与记者的专业价值交叉作用的理解有限，特别是在提案写作的背景下。

解决方案

• 提出的方法: 本研究通过展示四种假设的工具设计并分析记者的反馈，探讨记者如何与LLM工具协商自主性。
• 创新性:
  1. 确定了指导记者是否愿意将控制权交给AI工具的九项专业价值。
  2. 分析了AI工具威胁新闻自主性的条件，例如限制探索或绕过反思性工作。
  3. 提出了设计能够平衡效率与决策控制的工具的启示。
  4. 描述了因果性自主性与基于身份的自主性在维持长期专业身份中的相互作用。
• 过程与关键技术:
  • 对20名自由职业科学记者进行半结构化访谈。
  • 展示四种假设的LLM工具概念，这些工具在任务启动、AI辅助范围和可配置性方面有所不同。
  • 通过反思性主题分析识别价值冲突和控制边界。

结果

• 具体发现:
  • 记者重视自主性、成就感、技能发展和作品的独特性，同时也重视效率、道德标准和编辑一致性等情境价值。
  • 信息收集和反馈生成的AI辅助被广泛接受，而核心创意和文本生成则因对自主性、个人风格和反思性工作的担忧而被拒绝。
  • 经济压力和情境限制（如紧迫的截止日期）偶尔会导致接受AI生成的草稿，但这些是妥协而非基于价值的选择。
• 相较基线的优势:
  • 该研究对记者的专业价值如何塑造他们与AI工具的互动提供了细致的理解，超越了一般创意写作的背景。
  • 它强调设计能够连接用户与资源和反馈的工具的重要性，而不是直接生成内容。
• 实验/评估:
  • 评估了四种工具概念：Pitch Assist（开放式聊天）、Pitch Refine（分步任务）、Pitch Critic（写作过程中的反馈）和Pitch Suggest（自动草稿生成）。
  • 参与者整体上对Pitch Critic的评价最高，其次是Pitch Suggest的情报收集能力。
  • 评估指标包括参与者的排名、对控制边界的定性反馈以及与专业价值的对齐程度。
• 局限性与未来工作:
  • 研究聚焦于自由职业科学记者，这可能放大了对经济不稳定和自主性的担忧。
  • 需要开展纵向研究以评估AI使用对技能发展和专业身份的长期影响。
  • 未来工作应探索配置能力和系统性因素如何影响AI在新闻业及其他创意职业中的采用。

总结

本研究探讨了LLM工具如何影响记者的自主性，重点关注科学新闻报道中的提案写作。通过对20名记者的访谈，研究确定了九项塑造记者对AI辅助控制边界的专业价值。尽管记者接受AI用于信息收集和反馈生成，但因对自主性、个人风格和反思性工作的担忧，他们拒绝将AI用于核心创意和文本生成。研究强调了因果性自主性与基于身份的自主性之间的相互作用，指出需要设计支持效率而不破坏专业价值的工具。研究还呼吁开展纵向研究，以应对系统性和时间性挑战。