内容策展算法的简单改变影响协作过滤实验中人们形成的信念

文献标题

Simple changes to content curation algorithms affect the beliefs people form in a collaborative filtering experiment

出版信息

• 主题领域: 算法内容推荐对用户信念和行为的影响
• 关键词: 内容推荐、社交媒体算法、信念准确性、共识、基于参与度排序、基于桥接排序、基于智能排序、极化、错误信息、协同过滤

背景与问题

• 问题/挑战: 社交媒体算法通常优先考虑参与度指标，这可能导致极化、错误信息传播以及与用户福祉的偏离。目前关于替代算法如何影响用户信念和行为的实验性证据有限。
• 意义: 理解算法变化如何影响信念形成对于设计促进共识和信念准确性等社会积极结果的社交媒体系统至关重要，而非加剧极化和错误信息传播。
• 动机与相关研究: 先前研究强调了基于参与度算法的负面影响，但关于桥接排序和智能排序等替代方法的证据较为稀缺。本研究基于促进社会积极结果的媒体提案，通过实验测试这些替代算法。

解决方案

• 提出的方法: 本研究在一个受控的协同过滤实验中评估三种内容推荐算法——基于参与度排序、基于桥接排序和基于智能排序，以分析它们对信念准确性和共识的影响。
• 创新点:
  1. 提供关于算法内容推荐如何影响信念形成和共识的实证证据。
  2. 使用基本参与度信号和用户人口统计数据开发替代排序算法。
  3. 提供一种低成本、平台无关的实验方法来测试算法效果。
• 流程与关键技术:
  • 研究1: 通过收集500名政治倾向均衡的参与者的参与数据（点赞、点踩），创建一个包含论证性帖子内容的库。
  • 研究2: 将1,000名参与者暴露于算法排序的内容流（随机排序、基于参与度排序、个性化参与度排序、桥接排序、智能排序），并测量信念更新、共识和准确性。
  • 依赖变量包括信念方差（共识）、集体误差和个人误差。

结果

• 具体发现:
  • 个性化参与度排序导致的共识较少，信念准确性较低，尽管被认为更具洞察力。
  • 桥接排序在一定程度上促进了共识，特别是在减少自由派与保守派之间的信念差距方面。
  • 智能排序在一定程度上提高了集体和个人信念的准确性，但在所有情况下并未优于非个性化参与度排序。
• 相较基线的优势:
  • 桥接排序在减少自由派与保守派信念差距方面比随机排序和个性化参与度排序更有效。
  • 智能排序在信念准确性方面优于随机排序和个性化参与度排序。
• 实验/评估:
  • 研究1: 开发了一个包含72个帖子内容的库，涵盖六个主题（三个主观主题，三个客观主题）。
  • 研究2: 在信念更新任务中测试了五种排序算法，涉及1,000名参与者，并分析了10,000个统计化群体内的共识和准确性变化。
• 局限性与未来工作:
  • 内容库较小且人工化，结果可能无法推广到真实社交媒体环境。
  • 单次曝光设计，未测试对长期信念稳定性的影响。
  • 实验设置中缺乏社交线索（例如用户身份、先前参与度指标）。
  • 未来工作应使用更大、更真实的内容库，并测试算法的长期效果。

总结

本研究表明，在受控实验环境中，简单的内容推荐算法变化可以显著影响信念准确性和共识。虽然社交媒体平台常用的个性化参与度排序导致信念极化和准确性降低，但桥接排序和智能排序显示出促进社会积极结果的潜力。研究结果强调了利用基本参与度信号和人口统计数据设计符合用户福祉的算法的可行性。提出的实验方法提供了一种低成本、平台无关的方式来研究算法效果，补充了现有方法论。未来研究应在更真实和长期的背景下探索这些算法。