复数系统：通过模拟社交群体引导大语言模型的系统

研究背景与问题

• 发现问题或挑战: 当今的生成型 AI 模型通常来自少数通用模型，使得模型可能难以满足来自多样化用户群体的价值观和偏好。这种情况引发了对模型可能存有特定观点偏向的担忧。传统的解决方案是试图消除偏见，追求“无观点”模型，但这在实践中被认为不可行，因为没有客观的“无偏见”基准。
• 问题的重要性: 在许多情况下（例如工作政策规划或社会项目传播），对模型采取单一观点可能无法有效反映信息的多样性，也难以满足目标观众的需求。
• 研究动机与相关工作: 作者注意到人与AI协作时需要模型能够传达多元视角，而不是单一的“中立”答案。他们受到了人类“审议式民主”实践的启发，试图让模型通过模拟社会中的不同观点来进行协作。

解决方案

• 提出的解决方案: 作者开发了一种名为 Plurals 的系统和 Python 库，用于实现多元的 AI 审议。Plurals 涉及三个关键组件：Agent（语言模型代理）、Structure（信息共享结构）和 Moderator（审议总结者）。这些组件协作，生成模拟社会群体的对话。
  • Plurals 可以通过政府数据集创建具有代表性的个体角色（persona），并采用以审议式民主为模板的讨论结构。
  • 用户能够自定义信息共享结构以及模型的角色和行为协议。
• 创新之处:
  • 提出了“交互性多元”的核心原则，它不仅关注模型个体的多样性，还创造在模型间沟通与信息整合的多元化机制。
  • 实现了复杂信息结构的定制化，这让用户可以控制模型如何共享和整合信息。
  • 整合了审议式民主的理论框架，将对话、理解冲突等理念具体地应用于 LLM 系统。
• 实施步骤与关键技术:
  • Agent: 创建大语言模型代理，包含角色指令（通过政府数据集创建具备人口属性的角色）。
  • Structure: 定义信息共享结构，并允许模型在链式、图结构或独立审议的框架下协作。
  • Moderator: 定义模型如何总结多代理的沟通意见，提供自动化的摘要生成支持。
  • 模型支持来自美国国家选举研究 (ANES) 的代表性人群，信息共享扩展性较强且支持用户自定义。

研究成果

• 具体成果:
  • 理论创新: 系统具有良好的机械一致性且完全符合所选审议式民主理论原则，用户可以定制模型如何与其他模型互动。
  • 系统开发: 提供了一个公开的 Plurals Python 包，具有文档和教程支持，让理论化的系统能够直接被使用。
  • 实验验证:
    • 六个案例研究展示了系统的理论一致性与有效性：
      • 使用复杂的 ANES 角色生成方法使模型输出多样性显著提高。
      • 模拟的多代理焦点小组生成的结果比零样本和链路推理生成方法更能引发目标受众共鸣。
    • 在三个随机实验中，与目标受众进行的实际测试显示，Plurals 在 75% 的试验中优于零样本生成。
• 优势分析:
  • Plurals 提供了更强的模型操控性，并能根据特定群体的偏好或需求来生成内容。
  • 支持复杂的交互和行为规则定制，是主人类的审议式方法的首次大规模应用。
• 局限性与未来方向:
  • 系统依赖 LLM 的可控性，但 LLM 的训练数据和内部偏向可能限制角色模拟的真实性。
  • 系统中的模板可能无法在所有任务和模型上获得一致表现。
  • 未来可以探索增强检索型生成 (RAG) 技术，扩展多代理协作能力，以及扩大数据来源以支持全球化的角色模拟。

总结

Plurals 是一种开创性的系统，它提供了一种设计多元人工智能的全新视角，将模型间交互的多样性整合到 AI 系统中。通过结合审议式民主的原则和模块化的系统架构，Plurals 为生成型 AI 的公平性、适应性及社会责任提供了强大工具。但系统仍面临一些挑战，例如对角色真实性的更严格评估、用户需求的高度个性化，以及可能的伦理性问题。这些挑战为未来研究提供了丰富的方向。