陪审团学习：将不同意见整合到机器学习模型中

文献标题

Jury Learning: Integrating Dissenting Voices into Machine Learning Models (陪审学习：将异议声音融入机器学习模型)

文献信息

• 主题领域: 人机交互、机器学习、公平性与社会计算
• 关键词: 监督学习、人工智能公平性、数据标注分歧、陪审判模仿、多样性建模、交互式机器学习、自定义分类器、人机合作、分类器可解释性

研究背景与问题

1. 问题与挑战:

   • 当前的监督学习主要通过多数投票处理数据标注中的分歧，忽略了少数群体的观点，这种做法可能不能准确捕捉标注争议的多样性。
   • 机器学习模型必须在社会议题中做出判断，而这些议题常涉及“正确标签”的不可调和分歧，例如在线评论毒性检测、虚假信息和医学诊断。
   • 目前的主流机器学习方法缺乏反映少数群体意见的机制，且现有的指标常忽略谁会产生分歧以及为何分歧。

2. 重要性:

   • 如果仅通过数据中的多数派观点训练模型，机器学习系统可能强化现有社会不平等，加剧偏见。
   • 需要一种方法使得机器学习能够更加透明地反映出由相关利益方定义的社会价值。

3. 研究动机:

   • 提出一种新机制，通过建模标注者及允许决策者探索标注分歧，帮助研究者定义定制化的分类规则，适配多样化需求。
   • 克服传统方法不足，为有争议性任务构建能够透明、动态调节的机器学习工具。

解决方案

方法或解决方案

• 陪审学习 (Jury Learning):
  • 提出一种监督学习架构，将数据标注者建模为陪审团成员，允许用户通过定义陪审团构成（如种族、性别、政治立场等）明确指定谁的标签应该指导模型预测。
  • 模型通过采样进行陪审团推断，然后输出基于陪审团观点加权融合的分类结果。

创新点

1. 动态可调陪审团:

   • 允许实践者动态调整陪审团组成以匹配任务特点或文化变化。
   • 可探索反事实陪审团，即调整陪审团构成以研究决策变化。

2. 标注者与分歧建模:

   • 使用深度学习架构（如BERT 和Deep & Cross Network），对每个标注者建模，预测个体在新输入下的标签。

3. 交互式定制界面:

   • 开发了与陪审学习接口集成的可视化工具，支持系统交互式可解释性，可展示标注者特征、分歧来源以及预测中的“争议性范围”。

实施步骤与技术

1. 模型设计:

   • 将文本嵌入深度推荐系统中，形成标注者、组间关系和内容表征的联合嵌入。
   • 通过联合的深度&交叉网络（Deep & Cross Network）来预测个体标注行为。

2. 扩展功能:

   • 支持任务依赖型陪审结构（如按照评论语境自适应调整陪审组成）。
   • 提供优化工具，自动寻找最小陪审团调整以反向预测结果。

研究成果

1. 具体成果:

   • 陪审学习模型显著提高个人标注预测表现，比现有方法将平均绝对误差（MAE）从0.90降低至0.61。
   • 模型更能精准预测个体与群组分布范围，并减少群组间的预测偏差。

2. 实验结果:

   • 用户监督结果中，参与构建的多样陪审团相比于默认数据的种族单一化比例（74%白人标注者）提供了更大的多样性（非白人标注者增加2.9倍，且非二元性别标注增加31.5倍）。
   • 配置陪审团后，约14%的分类结果得以调整（如从"毒性"转为"非毒性"或反之），特别影响标注分歧显著的案例。

3. 应用实践:

   • 通过用户测试（如内容监督者的实验），验证了陪审学习具有用户友好性，能够为复杂社会背景中的各种社区提供更好的服务。

4. 局限性与未来方向:

   • 当前方法的适用性有限于已知数据标注者群组特征，尚需发展能发现未知群组或多样意见的无监督方法。
   • 呼吁进一步研究陪审学习在医学诊断、协作设计等领域的适用场景，并探究细粒度公平优化和强鲁棒性的学习机制。
   • 当前结果易受标注者隐私泄露影响，建议集合差分隐私等方法以提供风险缓解。

总结：该研究提出陪审学习模型，促进了监督学习在处理多样性和分歧问题上的可扩展性。通过重新定义标注者为“陪审员”，并赋予定制灵活性，陪审学习为机器学习中的公平性和用户调节能力带来了积极进展。