信息展示对机器学习预测器公平性感知的影响

文献标题

Efect of Information Presentation on Fairness Perceptions of Machine Learning Predictors

文献信息

• 主题领域: 人工智能公平性与人机交互
• 关键词: 人工智能, 公平性, 透明度, 众包, 机器学习, 预测因子选择, 普通用户, 数据可视化, AI, ML.

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 人工智能（AI）技术虽然提高了许多决策过程的效率，但也带来了关于公平性与透明度的重要问题。例如，AI 招聘工具中的性别偏见或刑事司法系统预测工具中的种族偏见。
  • 普通公众被认为应该参与算法的设计与评估，但目前的很多机器学习（ML）解释工具主要为专家设计，未充分考虑非专业人士的理解需求。
  • 文献在探讨公众对 AI 系统公平性的看法时，仍存在对信息呈现（如可视化方法）的影响理解不足。

• 为什么这个问题很重要？

  • 对广泛的社会而言，AI 的公平性直接影响信任度和接受度。
  • 非专业用户的意见可能不同于技术专家，缺乏这类参与会导致算法设计缺乏代表性，进而扩大其潜在的不公平影响。

• 研究动机与相关工作

  • 作者综述了公平性与公众认知领域中的以往研究（如围绕个体公平和群体公平的不同定义），指出了感知公平性受多种因素影响，如信息呈现方式、受教育水平和性别差异。
  • 之前在 HCI 和 AI 的文献中已讨论信息呈现影响但未具体测试可视化技术和数据背景在公平性评估中的作用。

解决方案

• 研究方法:

  • 设计了一个在线众包研究，探讨不同信息呈现方式（文本 vs. 散点图）和结局变量展示方式（显示/不显示）对公众公平性感知的影响。
  • 核心变量包括预测类型（如人口统计指标 vs. 验证变量）、情景（犯罪再犯风险 vs. 贷款审批场景）、呈现方式和人口学特征。

• 关键创新点:

  1. 集成文本与散点图两种可视化方法，共同研究其对公平性评估的影响。
  2. 探讨情景和人口相关因素（如性别与教育水平）在预测因子公平性评估中的作用。
  3. 设计嵌套实验以验证不同算法预测变量在两种场景中的适用性。

• 实施步骤:

  1. 使用两个真实世界数据集（COMPAS 再犯数据集和贷款数据集），定义预测变量，包括人口、领域和验证相关变量。
  2. 参与者通过不同的可视化和变量呈现方式，评估每个预测因子的是否应当包含在算法中，同时对其公平性进行评分。
  3. 收集参与者背景数据，包括性别、教育程度和图表读解能力，并分析这些变量与感知公平性之间的关系。

研究成果

• 取得了哪些具体成果？

  • 文本呈现方式比散点图更倾向于让参与者认为预测因子是公平的。
  • 显示结局变量时，参与者在犯罪再犯场景中的公平性评分显著降低，但在贷款场景中无显著变化。
  • 验证型预测因子（如“身高与惯用手”）普遍被公众认为不够公平。

• 与现有解决方案相比有哪些优势？

  • 将情景和数据展示方式的交互影响纳入研究框架，为设计更高效的用户友好型 AI 评估工具提供了基础。
  • 突出了人口统计特征（如性别、教育水平）对公众感知公平性的重要作用，弥补了现有文献的不足。

• 实验或评估结果:

  • 参与者总体上认为，犯罪再犯预测因子的公平性高于贷款场景的预测因子。
  • 数据可视化复杂度直接影响受众的自信心，复杂的“散点图-结局”组合条件让参与者最不自信。
  • 高学历者对公平性的要求更高，并倾向于认为信息不足；女性倾向于认为算法预测因子不够公平。

• 局限性与未来方向:

  • 研究仅限于文本与散点图两种呈现方式，进一步研究可尝试其他视觉化形式。
  • 所使用的数据背景局限在美国，应评估文化/地理背景对公平性认知的潜在影响。
  • 未来可在算法开发的多个阶段（如预测审查、模型部署）深入探讨用户参与的实际效果。

总结与建议

• 需要开发聚焦于普通公众用户的解释性工具，避免过于复杂的呈现形式导致研究结果失真。
• 建议未来研究对多种情景与可视化技术进行交叉验证，为构建多样性包容的 AI 系统奠定基础。