拆解算法决策中的公平感知：解释、人类监督和可争议性的影响

文献标题

Disentangling Fairness Perceptions in Algorithmic Decision-Making: the Effects of Explanations, Human Oversight, and Contestability

文献信息

• 主题领域: 算法决策中的公平性感知
• 关键词: 算法决策, 公平性感知, 解释性, 人类监督, 可争议性（contestability）, 信息公平, 程序公平

研究背景与问题

• 问题与挑战:

  • 尽管算法决策过程可能符合某些客观公平性标准，但受决影响的用户未必会感知到公平性。
  • 算法系统的“不可解释性”和“缺乏问责性”经常与正义观念相背离，损害了用户对系统的信任和接受程度。
  • 已有研究通常独立地研究影响公平感知的因素（例如解释性、监督和可争议性），未探索这些因素的交互关系。
  • 先前大多采用一维方法评估"整体公平性"，而忽略信息公平、程序公平等不同维度的细化测量。

• 研究重要性:

  • 算法被广泛应用于关键决策领域（如贷款审批），公平性问题对社会信任和接受度至关重要。
  • 探索用户的感知公平至关重要，有助于改进算法系统设计，以满足用户的正义标准。

• 研究动机与相关工作:

  • 现有工作指出，解释性（explanations）、人类监督（human oversight）和可争议性（contestability）影响用户的公平性感知，但具体机制不明。
  • 将法律心理学中的多维度公平评估方法应用于算法决策，为进一步研究提供理论支持。

解决方案

• 研究方法:

  • 设计用户研究（共267名参与者），模拟贷款审批情境，操控“解释性”、“人类监督”和“可争议性”变量。
  • 测量用户对信息公平、程序公平和整体公平的感知。
  • 研究了任务的重要性（高/低）对公平性感知的影响。

• 创新之处:

  • 系统地研究三种核心因素（解释性、监督、可争议性）对多维度公平感知的独立和联合影响。
  • 提出了能够提升用户感知公平性的新设计建议。

• 实施步骤:

  1. 预实验: 确定用户对不同解释风格和可争议性的偏好，以便在主实验中测试。
  2. 主实验: 在贷款审批情境下，随机分组参与者：是否提供解释，是否有监督，以及是否允许对决策提出异议。包括以下变量：
     • 解释性（有/无）
     • 人类监督（有/无）
     • 可争议性（无、能提供额外信息的异议、请求决策者更改的异议）
     • 任务重要性（高/低）
  3. 数据收集与分析: 通过多因素方差分析和多元线性回归，评估操作变量对公平感知的影响。

研究成果

• 具体成果:

  • 提供解释能显著提高用户的信息公平感知（说明用户感觉决策更加透明和全面）。
  • 引入可争议性增强了用户的程序公平感知（用户对决策过程的可修复性感到满意）。
  • 用户的整体公平感知依赖于信息公平和程序公平，但两者之间无显著交互作用。
  • 人类监督对公平感知无显著影响，甚至在某些情况下可能损害程序一致性和去偏观点。

• 与现有方案的比较:

  • 本研究验证了解释性对信息公平感知的正面影响，并首次提出人类监督可能对程序公平感知有负面作用。
  • 引入多维度测量，比以往单一的“整体公平性”评估方法更细致，突显了不同因素对具体公平维度的不同影响。

• 实验结果总结:

  • 解释性: 增强信息公平的关键，尤其对于AI知识较少的用户。
  • 可争议性: 改善程序公平，特别是在提供修正决策的机制时。
  • 人类监督: 对用户程序公平的满意感无显著帮助，甚至可能引发对一致性的质疑。

• 局限性与未来方向:

  • 本研究限制在单一场景（贷款审批），其他领域的相关性需要进一步探索。
  • 使用的第三人称叙述和一轮交互可能低估了直接结果对用户感知的影响。
  • 需要更广泛地实验以涵盖跨文化的多样性。
  • 应进一步探索如何在可争议机制中赋予用户“程序声音”和“结果影响力”。
  • 鼓励未来通过研发更直观和用户适配的“系统级别解释”，来提升透明性和用户理解度。