影响算法决策中感知公平性的因素：算法结果、开发程序和个人差异

DOI

算法决策系统在公共和私营部门中越来越多地用于做出重要决策或协助人类做出具有实际社会影响的决策。尽管近年来在构建公平的决策算法方面进行了大量研究，但对理解影响人们在这些系统中公平性感知的因素的研究较少，我们认为这对它们的更广泛接受也很重要。在这项研究中，我们进行了一项在线实验以更好地了解公平性的感知，重点关注三个因素集：算法结果、算法开发和部署程序以及个体差异。我们发现，当算法预测对他们有利时，人们认为算法更公平，甚至超过了对特定人口群体有严重偏见的算法描述的负面影响。我们发现，这种效应受到几个变量的调节，包括参与者的教育水平、性别以及开发程序的几个方面。我们的研究结果表明，通过用户反馈评估算法公平性的系统必须考虑“结果有利性”偏差的可能性。