社交媒体排序算法的价值对齐

文献标题

Value Alignment of Social Media Ranking Algorithms

出版信息

• 主题领域: 基于价值的社交媒体信息流算法排名。
• 关键词: 价值对齐, 社交媒体, 信息流排名, Schwartz基本价值观, 大型语言模型, 用户控制, 参与度算法, 价值权衡, 算法个性化, 人机交互。

背景与问题

• 问题/挑战: 社交媒体信息流算法优先考虑参与度指标（如点击、点赞），而忽略了其放大内容中所嵌入的价值观。这种方法过度强调短期的个人主义价值，可能导致社会问题，如极化和错误信息传播。
• 重要性: 算法信息流影响态度、信念和行为，因此探索如何将价值观有意融入信息流排名以符合用户的个人和社会目标至关重要。
• 动机与相关研究: 以往研究主要集中于减少错误信息或政治内容，但缺乏一个全面框架来将广泛的人类价值观融入排名算法。Schwartz的基本人类价值理论提供了一个结构化且经过实证验证的系统来填补这一空白。

解决方案

• 提出的方法: 一个基于Schwartz基本人类价值观的价值对齐排名算法，根据用户指定的价值偏好对社交媒体内容进行分类和排名。
• 创新点:
  1. 提出一个框架，将全面的价值体系整合到信息流排名算法中，并通过Schwartz的基本人类价值观进行操作化。
  2. 两项控制实验表明用户能够识别并配置价值对齐的信息流。
  3. 提供关于用户如何选择价值观以及这些选择如何重新塑造其信息流的实证洞察。
• 流程与关键技术:
  1. 使用大型语言模型（LLM）根据Schwartz的19种价值观对社交媒体帖子进行分类。
  2. 通过滑块界面或问卷让用户指定价值权重（范围为-1到1）。
  3. 根据用户的价值偏好计算每个帖子的加权分数并重新排名信息流。
  4. 通过实验验证该方法，将价值对齐的信息流与基于参与度的信息流进行比较。

结果

• 具体发现:
  • 在研究1（N = 141）中，参与者在76.1%的试验中识别出价值对齐的信息流，显著高于随机概率。
  • 在研究2（N = 250）中，随着激活的价值观数量增加，识别率有所下降，但整体仍高于随机概率（63.4%）。
  • 参与度信息流优先放大“刺激”和“享乐”等个人主义价值，而价值对齐的信息流则放大“关怀”和“普遍关心”等社会价值。
• 相较基线的优势:
  • 价值对齐的信息流与基于参与度的信息流显著不同，平均Kendall’s τ为0.06，表明排名重叠较少。
  • LLM生成的价值标签与共识注释的匹配度高于单个人工注释者（LLM-共识MAE = 0.95 vs. 人工-共识MAE = 1.07）。
• 实验/评估:
  • 研究1: 参与者使用自己的Twitter内容比较参与度信息流与单一价值对齐的信息流。
  • 研究2: 参与者调整最多19个价值滑块以创建多价值对齐的信息流，并与参与度信息流进行比较。
  • 指标: 价值对齐的识别率、任务负荷以及重新排名信息流中价值强度的变化。
• 局限性与未来工作:
  • 仅限于美国参与者，结果可能无法跨文化推广。
  • 短期实验；需要纵向研究以评估价值对齐信息流的长期影响。
  • 当前方法未考虑帖子的上下文因素，如作者身份。
  • 未来工作可以探索非线性排名函数、基于自然语言的价值观提取界面以及文化特定的价值体系。

总结

本文提出了一种基于Schwartz基本人类价值观的方法，用于将社交媒体信息流排名与用户指定的价值观对齐。通过大型语言模型，该方法根据价值表达对内容进行分类和排名，使用户能够通过滑块界面重新配置其信息流。两项实验验证了用户能够识别并配置价值对齐的信息流，这些信息流与基于参与度的排名显著不同。研究结果突出了基于价值的个性化方法在赋能用户和减轻参与度驱动算法的社会危害方面的潜力，同时指出了扩展和普及该方法的挑战。