生成式回音室？LLM驱动的搜索系统对多样化信息检索的影响

文献标题

Generative Echo Chamber? Effects of LLM-Powered Search Systems on Diverse Information Seeking

文献信息

• 主题领域: 人机交互 (HCI) 与生成式人工智能的应用
• 关键词: 交互搜索、信息查询、多样性、回音室效应、确认偏见、大型语言模型、生成式AI

研究背景与问题

• 发现的问题或挑战:

  • 大型语言模型 (LLMs) 驱动的对话式搜索系统在信息查询过程中可能加剧选择性暴露，进而导致回音室效应和观点极化，但对此风险的研究尚不足。
  • 尽管 LLM 驱动的搜索系统因其自然交互体验和复杂查询支持功能备受关注，关于这种系统对信息获取行为及观点变化的真实影响仍存疑。

• 重要性:

  • 选择性暴露和确认偏见可能抑制个人对多样化信息的接触，从而弱化批判性思维能力、偏斜决策质量，甚至促进群体极化或危险极端化。
  • LLM等技术的广泛使用可能加重信息偏差，从而影响社会舆论形成和个人认知。

• 研究动机:

  • 研究 LLM 驱动信息技术对选择性暴露的潜在加剧作用以及设计和政策层面的解决建议。
  • 探讨 LLM在编码偏见及其技术与交互中如何影响信息查询和观点多样性。

解决方案

• 提出的方法:

  • 通过两项实验，研究 LLM 驱动的对话式搜索在选择性暴露和观点极化中的作用：
    1. 第一项实验：比较传统搜索系统与 LLM 驱动的对话式搜索系统在用户信息查询行为及态度变化上的差异。
    2. 第二项实验：探讨 LLM 是否会通过强化或挑战用户现有观点的方式影响选择性暴露程度。

• 创新之处:

  • 将传统搜索系统与 LLM 驱动的对话式搜索进行对比。
  • 探讨 LLM的观点偏向（支持用户态度、挑战用户态度或保持中立）如何影响信息查询行为和用户的后态度变化。
  • 利用调整检索算法（如检索增强生成，RAG）及手工设计的提示语实现 LLM 输出内容的观点偏向性操作。

• 实施步骤:

  • 使用实验室控制环境设计三类搜索系统（传统搜索、带引用的对话式搜索、不附引用的对话式搜索）。
  • 在第二项实验中通过调整数据检索基底以及生成内容提示语创建不同观点倾向的对话式搜索引擎。

研究成果

• 具体成果:

  1. 实验结果（第一项实验）:

     • LLM驱动的对话式搜索系统相比传统搜索系统，引发用户更高程度的选择性信息暴露。
     • 无论是否配备来源引用功能，对话式搜索系统均导致更高水平的信息查询偏向。
     • 尽管实验未发现态度显著变化，但用户对后续信息的感知偏向为观点极化提供了证据。

  2. 实验结果（第二项实验）:

     • 搭载意见偏向的 LLM系统对用户查询行为和态度变化具有显著影响：
       • （支持态度的LLM）加剧选择性暴露，并导致用户显著的观点极化。
       • （挑战态度的LLM）仅对调节观点极化有有限效果。
     • 中立设计的搜索系统在减轻选择性暴露方面同样表现出局限性。

• 与现有解决方案相比的优势:

  • 提供了细粒度比较（传统搜索 vs LLM 对话式搜索、带/不带引用设计，以及观点偏向设计）。
  • 实验设计较严格，囊括了用户查询行为、态度变化和感知三方面指标。

• 局限性与未来方向:

  • 局限性：
    • 实验环境为封闭式搜索系统，无法完全模拟真实世界的搜索生态。
    • 搜索任务相对简单，缺乏对长期信息查询及复杂认知行为的调查。
    • 未深入探讨用户在信息查询之外的注意力分配和信息留存等其他信息消费机制。
    • 未考虑个体差异对选择性暴露倾向的影响。
  • 未来方向：
    • 研究更复杂、更长期的查询任务对观点变化的影响。
    • 考察 LLM 驱动搜索系统如何影响主动与被动的信息消费格局。
    • 开发增强信息多样性的设计和技术措施以缓解回音室效应。

总结与建议

• LLM驱动的对话式搜索系统可能加剧选择性信息暴露和回音室效应。研究呼吁：
  • 制定相关规范以限制 LLM 的观点操控行为。
  • 开发技术防护措施以检测和减轻人工智能的意见偏向。
  • 探索设计理论指导和实际干预手段以增强用户信息查询的多样性并抑制极化效果。