解释对人类-AI决策公平性的影响：保护特征与代理特征

已知AI系统会放大现实世界数据中的偏见。解释可能帮助人类-AI团队解决这些偏见以实现更公平的决策。通常，解释聚焦于显著的输入特征。如果模型对某些受保护群体有偏见，解释可能包含展示这种偏见的特征，但当偏见通过代理特征实现时，该代理特征与受保护特征之间的关系对人类来说可能不太清楚。在这项工作中，我们研究了受保护特征和代理特征的存在对参与者感知模型公平性以及他们相对于AI单独实现人口 parity的能力的影响。此外，我们检查了不同处理方式——解释、模型偏见披露和代理相关性披露——如何影响公平性感知和parity。我们发现解释帮助人们检测直接偏见但不检测间接偏见。此外，无论偏见类型如何，解释往往会增加对模型偏见的同意。披露可以帮助缓解间接偏见的这种效果，改善不公平识别和决策公平性。我们希望我们的发现能够帮助指导进一步研究推进解释以支持公平的人类-AI决策。