Breaking News还是Breaking Trust？探索新闻业可信LLM集成的挑战与设计空间

文献标题

Breaking News or Breaking Trust? Exploring Challenges and a Design Space for Trustworthy LLM Integration in Journalism

出版信息

• 主题领域: 大型语言模型（LLMs）在新闻领域的可信集成。
• 关键词: LLMs，新闻业，可信性，人工智能素养，参与式设计，可解释人工智能（XAI），事实核查，中立性，自主性，效率。

背景与问题

• 问题/挑战: 将LLMs集成到新闻业中会对新闻价值观（如事实性、中立性、自主性、效率和人工智能素养）带来风险。现有关于LLMs负责任使用的指南过于抽象，难以在实践中应用。
• 重要性: 新闻业是民主社会的基石，确保LLM工具的可信性对于维护公众信任和新闻生产中的伦理标准至关重要。
• 动机与相关工作: 之前的研究探讨了生成式人工智能对新闻业的影响，发现了诸如幻觉、偏见和效率低下等风险。然而，关于设计工具以具体化抽象指南并支持可信的LLM集成的研究仍然有限。

解决方案

• 提出的方法: 提出一个设计空间框架，解决五大挑战（事实性、中立性、自主性、效率、人工智能素养），并迭代开发可信LLM新闻工具的交互式原型。
• 创新点:
  1. 确定新闻领域可信LLM集成的五个关键挑战。
  2. 开发四个原型（Fact-Checker、Emphasis Manipulator、Uncertainty Visualizer、Attention Visualizer），并结合新闻实践进行设计。
  3. 对原型进行定性评估，参与者包括新闻行业的多元利益相关者。
  4. 探索如何通过交互式工具具体化抽象指南，并将XAI技术嵌入新闻工具中。
• 流程与关键技术:
  • 进行了八次半结构化访谈和两次情境访谈，参与者包括记者、教育工作者和媒体开发者。
  • 基于识别出的挑战绘制设计空间。
  • 使用参与式设计方法迭代开发并评估四个原型。
  • 原型采用了命名实体识别、情感分析、令牌置信度可视化以及注意力机制模拟等技术。

结果

• 具体发现:
  • Fact-Checker被认为对系统化事实核查和具体化“人类参与”指南非常有用。
  • Uncertainty Visualizer和Attention Visualizer提高了对LLMs统计特性的认识，但对新闻工作流程的即时价值有限。
  • Emphasis Manipulator为缺乏提示技能的记者提供了一种直观的替代方案，但对经验丰富的用户来说效率较低。
• 相较基线的优势:
  • 原型将已知技术（如XAI、直接操作）结合新闻领域的具体挑战（如幻觉、偏见和效率低下）进行了上下文化。
  • 像Fact-Checker这样的工具提供了结构化的事实核查方法，降低了认知负荷和错误风险。
• 实验/评估:
  • 评估包括记者、教育工作者和开发者的定性反馈。
  • 工具根据可用性、与识别出的挑战的相关性以及与新闻价值观的对齐程度进行评估。
• 局限性与未来工作:
  • 参与者多样性有限（仅涉及两个媒体机构，记者数量较少）。
  • 像Attention Visualizer这样的原型由于API限制仅为模拟版本。
  • 未来工作包括扩大参与者范围、优化原型设计，以及探索提升人工智能素养的替代方法。

总结

本研究识别了新闻领域可信LLM集成的五大挑战——事实性、中立性、自主性、效率和人工智能素养，并通过设计空间和四个原型进行了探索。Fact-Checker在具体化事实核查指南方面表现尤为突出，而像Uncertainty Visualizer和Attention Visualizer这样的工具虽然揭示了LLMs的统计特性，但由于新闻工作流程中的时间限制，面临采用障碍。研究结果强调了为多元利益相关者量身定制灵活工具的必要性，并建议记者教育可能是提升人工智能素养的更佳场景。未来研究应扩展这一设计空间，并探索新闻领域可信LLM集成的可扩展解决方案。