人们认为算法评估比相同的人类评估更不公平且更不值得信任

算法风险评估正被越来越广泛地应用于银行、医疗和执法等领域。然而，人们普遍关注其公平性和可信度，并且已知会出现算法厌恶，即使人类评估客观上更差，人们也更喜欢人类评估。那么，由谁做出评估的框架如何影响人们对评估的感知？我们研究了个体算法评估是否比相同的人类评估被认为更准确、更公平、更易理解，并探索了当评估明显对某个子群体有偏见时这些感知如何变化。为此，我们进行了一项在线实验，操纵了贷款还款任务中有偏见的风险评估，并将评估报告为由统计模型或人类分析师做出。我们发现，模型做出的预测被认为不如分析师做出的预测公平和易理解。此外，有偏见的预测错误更可能扩大这种感知差距，算法因做出有偏见的错误而受到更严厉的评判。我们的结果表明，风险评估是谁做出的可以影响人们对其可接受性的感知——即使它们同样准确，同样对子群体有偏见。