征求儿童虐待预测系统中利益相关者的公平观念

文献标题

Soliciting Stakeholders’ Fairness Notions in Child Maltreatment Predictive Systems

文献信息

• 主题领域: 人工智能伦理、机器学习公平性、决策系统的人机交互
• 关键词: 人工智能公平性、机器学习、算法公平性、算法辅助决策、儿童福利

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 存在多种技术定义的算法公平性，但在实际应用中难以体现利益相关方的多元观点和需求。
  • 在现实世界中，算法设计往往忽略了用户对于公平性的主观认知，导致公平性标准缺乏合法性。
  • 当前的公平性定义（例如群体公平性和个体公平性）存在各自的局限性，并且在特定情境中难以操作化。

• 为什么这个问题很重要？

  • 算法被广泛应用于高风险决策场景，例如刑事司法、儿童保护、贷款审批等领域，其潜在的不公平后果会对弱势群体造成重大影响。
  • 公平性的社会认可度是算法系统普及和正面社会影响的关键。

• 研究动机与相关工作

  • 通过分析当前关于机器学习公平性的文献，作者强调了不同公平性概念的理论局限性。
  • 当前关于用户参与算法设计的工作还不足以理解不同利益相关方的复杂公平性观念。
  • 作者引用了儿童保护领域的现有工作，如 Allegheny Family Screening Tool (AFST)，并指出亟需新的方法来弥补这些系统在公平性上的不足。

解决方案

• 作者提出了哪些方法或解决方案？

  • 提出一种获取相关方主观公平性观念的框架，包括一个交互界面和一个访谈协议。
    1. 交互界面: 允许用户从个体数据和群体数据两个层面审视算法的预测，支持用户表达其公平性见解。
    2. 访谈协议: 使用"大声思考"方法，探讨用户在使用界面时对公平性和算法偏见的反馈。

• 该解决方案的创新之处是什么？

  • 整合了用户的主观公平性观念与算法设计，通过交互界面赋予用户探索和定义公平性标准的能力。
  • 优化了获取利益相关方反馈的过程，尤其是在高风险、敏感领域（如儿童保护）中。
  • 创建了一个"宏观-中观-微观"层次的公平性框架：
    • 宏观（群体公平性）：用户审视和定义子群体的公平性。
    • 中观（个案比较）：用户比较单个案例与数据集中所有案例的关系。
    • 微观（个体公平性）：用户评价个案之间的直接比较是否合理。

• 实施步骤是什么？使用了哪些关键技术？

  1. 设计三种交互视图:
     • 群组分析视图（展示子群体的算法性能）。
     • 个案比较视图（逐一展示算法对特定个案的预测及相关数据特征）。
     • 相似度比较视图（展示参考案例与数据集中其他案例的相似性）。
  2. 制定采访协议:
     • 引导用户先进行不展示算法预测的案例比较，然后再进行有算法预测的比较。
     • 探讨用户的公平性见解，记录用户对群体公平性定义（如保持无觉察、统计均等性、平等化机会）的意见。
  3. 进行用户研究:
     • 针对儿童虐待预测体系，选取社会工作者和家长作为主要利益相关方。
     • 使用合成数据模拟真实数据，以便保护隐私。

研究成果

• 取得了哪些具体成果？

  • 对群体公平性的观点:

    • 在受访者中，"平等化机会"（66.7%支持率）是最被认可的公平性方法，其次是统计均等性（43.3%）与无觉察（41.7%）。
    • 部分受访者认为统计均等性是目标，但不应强制推行，尤其对存在基础发生率差异的子群体（如不同年龄的儿童）。
    • 无觉察被认为可能减少或加剧系统性歧视，受访者对此存在分歧。

  • 对个体公平性的反馈:

    • 在个案比较中，即使是类似的案例，用户对公平性标准的见解并不一致。
    • 对于14组案例对比，只有一组案例达成了一致（即重要属性差异显著时，如虐待类型）。
    • 用户在评估案例时，会部分构建场景故事，部分依赖特定属性的重要性排序。

  • 一致性与挑战:

    • 用户在回答个体和群体层面的公平性问题时表现出较高的一致性。
    • 然而，由于公平性定义的复杂性以及数据特征的数量，用户在比较高度复杂的案例时可能遇到认知过载的挑战。

• 与现有解决方案相比，它有哪些优势？

  • 将利益相关方的反馈机制化，引入到算法设计过程。
  • 针对高度敏感的领域（如儿童保护），融入了公平性与伦理性的讨论，而不是仅仅关注预测准确性。
  • 提供用户视角的丰富数据，不仅限于简单的定性反馈，还包括用户对公平性原则的背后逻辑解释。

• 实验或评估结果是什么？

  • 通过12名参与者（社会工作者和家长）的长达20.5小时的详细访谈，收集了大量与算法公平性相关的数据。
  • 实验显示，框架有效捕捉了用户对公平性标准的多样性，并表明公平性标准因具体情境而异。

• 局限性与未来方向

  • 局限性:
    • 样本量限制仅为12人，且未包括所有利益相关方（如儿童、部门监督人员）。
    • 研究基于合成数据进行，可能难以全面反映真实系统的复杂性。
  • 未来方向:
    • 增加利益相关方的多样性，特别是直接受算法影响的群体。
    • 开发结合多个利益相关方意愿的算法优化机制。
    • 进一步研究公平性定义与用户理解之间的差距，以及如何有效简化算法设计中的利益权衡决策。