当人工智能改写新闻：情感、框架与LLM披露如何塑造感知

文献标题

When AI Rewrites the News: How Sentiment, Framing, and LLM Disclosure Shape Perceptions

出版信息

• 主题领域: AI修改新闻对读者偏见、信任和情感参与感知的影响。
• 关键词: AI介导新闻、情感分析、框架效应、LLM披露、新闻信任、情感参与、政治传播、媒体偏见、透明性、人机交互。

背景与问题

• 问题/挑战: 对AI修改新闻文章（尤其是情感、框架和披露方面）如何影响读者对偏见、信任和情感反应的感知了解有限。以往研究通常单独研究这些因素，导致对其综合影响的理解存在空白。
• 重要性: 随着LLM在新闻领域的广泛应用，理解这些动态对于解决关于两极化、信任流失以及AI在新闻生产中的伦理使用问题至关重要。
• 动机与相关研究: 先前研究强调了情感和框架对受众感知的影响以及AI生成内容透明性面临的挑战。然而，这些变量的交互效应，特别是在政治敏感背景下，仍未得到充分探索。本研究通过实验性操控AI修改新闻文章中的情感、框架和披露来填补这一空白。

解决方案

• 提出的方法: 采用2×2被试间实验设计，分析情感（中性 vs. 极端）、框架（平衡 vs. 单边）以及LLM披露对读者偏见、信任和情感参与的影响。
• 创新点:
  1. 提供情感和框架如何共同影响政治新闻中偏见和信任感知的实证证据。
  2. 提出一种生成和验证受控情感框架操控的多LLM方法框架。
  3. 为AI辅助新闻系统设计提供启示，强调透明性、框架意识和情感校准。
• 实验程序与关键技术:
  • 使用LLM（GPT、Grok、Gemini、Claude）将关于争议性话题的新闻文章重写为四种条件：中性–平衡、极端–平衡、中性–单边、极端–单边。
  • 通过人工评审和计算工具验证文章的情感和框架准确性。
  • 225名美国参与者对文章的偏见、可信度、情感反应和认同度进行评估，评估分为披露LLM参与前后两个阶段。
  • 数据采用ANOVA分析和开放式回答的主题分析。

结果

• 具体发现:
  • 极端情感增加了感知偏见并加剧了负面情绪（如愤怒、厌恶、焦虑），而幸福感保持稳定。
  • 极端情感与平衡框架结合时增强了惊讶和怀疑，与敌意媒体效应一致。
  • LLM参与披露略微降低了可信度，尤其是对于极端或单边文章，但对感知偏见或平衡性影响较小。
• 相较基线的优势:
  • 中性情感和平衡框架通常被评为更可信，但平衡框架有时反而增加了对操控的感知。
  • 极端情感在情感和信任结果方面持续表现较差，相较于中性情感。
• 实验/评估:
  • 参与者（N=225）阅读AI修改的文章，并对其偏见、可信度、情感反应和平衡性进行评分。
  • 极端情感条件下的情感反应（如愤怒、焦虑）更强，而披露后信任度略有下降。
  • 文章通过人工编码和计算指标（如情感极性、框架熵）进行验证。
• 局限性与未来工作:
  • 单篇文章设计限制了研究的普适性；未来研究应涵盖多个话题。
  • MTurk样本可能无法完全代表更广泛的人群；需要跨国研究。
  • 不同披露形式的影响及长期效应尚未探索。

总结

本研究探讨了AI修改新闻文章中的情感、框架和LLM披露如何影响读者对偏见、信任和情感参与的感知。极端情感加剧了负面情绪和感知偏见，而平衡框架在与极端语气结合时有时增加了怀疑。AI参与披露略微降低了信任度，尤其是对于极端或单边文章，但对感知平衡性影响较小。研究结果强调了在AI介导新闻中透明性、情感感知调控和编辑监督的重要性，以缓解两极化并维护信任。未来工作应探索更多样化的话题、人群和披露策略，以优化AI辅助新闻系统的设计。