LLM在价值导向话题的建设性论证中使价值观同质化

文献标题

LLMs Homogenize Values in Constructive Arguments on Value-Laden Topics

出版信息

• 主题领域: 大型语言模型（LLMs）对敏感话题中建设性讨论的价值框架影响。
• 关键词: LLMs, 价值同质化, 建设性讨论, 亲社会价值, 保守价值, 文化差异, 恐同, 伊斯兰恐惧症, GPT-4, 伦理AI。

背景与问题

• 问题/挑战: 对LLMs在重写涉及敏感价值话题的论点时如何处理和重塑潜在价值的理解有限。先前研究主要关注语言上的建设性，而非价值对齐。
• 重要性: 随着LLMs越来越多地用于调解在线讨论，理解其如何影响价值框架至关重要，因为这可能影响包容性、公平性以及多元观点的表达。
• 动机与相关工作: 尽管研究表明LLMs能够提升语言建设性，但它们往往与人类价值观不一致，倾向于支持亲社会和进步的取向，而非保守取向。本研究通过系统分析LLMs在分裂性话题中重写评论时的价值转变，填补了这一研究空白。

解决方案

• 提出的方法: 通过三阶段研究，调查LLMs（GPT-4）在重写涉及价值话题的评论时如何影响价值框架及其与人类价值的感知对齐。
• 创新点:
  1. 使用Schwartz基本人类价值理论系统分析LLMs重写评论中的价值转变。
  2. 检查LLMs如何改变立场和价值框架，通常将讨论引导至亲社会方向。
  3. 跨文化评估人类与LLMs重写评论之间的感知对齐。
• 过程与关键技术:
  • 第1阶段：收集了印度和美国参与者在恐同和伊斯兰恐惧症话题上的234条评论，并分析其价值框架。
  • 第2阶段：使用GPT-4建设性地重写这些评论，比较人类撰写和LLMs重写版本的语言和价值特征。
  • 第3阶段：进行强制选择实验，让参与者评估哪些评论（人类或LLMs重写）更符合他们的价值观。

结果

• 具体发现:
  • LLMs系统性地弱化了保守价值（如传统、安全、遵从），并强化了亲社会价值（如普遍主义、仁慈）。
  • LLM重写的评论经常改变立场，使反对同性婚姻或伊斯兰的评论变得更中立或支持。
  • LLM重写的评论在语言建设性方面表现更佳（如可读性、礼貌性、推理标记）相比人类撰写的评论。
• 相较基线的优势:
  • 支持同性婚姻或伊斯兰的参与者认为LLMs重写的评论更符合其价值观（整体偏好率为59.9%-61.1%）。
  • 然而，反对这些话题的参与者更偏好人类撰写的评论，认为其更符合保守价值。
• 实验/评估:
  • 参与者：第1和第2阶段共465名印度和美国参与者；第3阶段额外招募180名参与者。
  • 指标：Schwartz价值类别、语言建设性特征、感知价值对齐。
  • 话题：恐同和伊斯兰恐惧症，因其分裂性和价值导向性而被选择。
• 局限性与未来工作:
  • 仅限于两个文化（印度、美国）和两个话题（恐同、伊斯兰恐惧症）；结果可能无法推广至其他情境。
  • 研究集中于GPT-4；未来应探索其他LLMs及多语言环境。
  • 由于招募限制（Prolific的有害内容预筛选器），样本具有非代表性。

总结

本研究表明，LLMs在重写涉及价值话题的评论时系统性地同质化价值，弱化保守价值并强调普遍主义和仁慈等亲社会价值。这虽然提升了语言建设性并与进步观点对齐，但可能边缘化保守视角并改变立场。跨文化实验显示，LLMs重写的评论更能引起支持同性婚姻或伊斯兰参与者的共鸣，但疏远了反对这些话题的参与者。这些发现突显了在敏感讨论中部署LLMs的伦理和社会政治挑战，强调了AI调解交流中的透明性、个性化和用户控制的必要性。