'将一个人简化为一个百分比'; 对算法决策中正义的看法

基于数据的决策对个人产生影响时，会引发关于问责制和正义的重要问题。事实上，欧洲法律赋予个人有限的权利，可以要求获得关于重大自主决策（如贷款批准、保险报价和简历筛选）背后的“有意义的信息”。我们进行了三项实验研究，考察了人们在不同场景和解释风格下对算法决策正义性的看法。以前对人类决策的正义性维度的观察似乎同样适用于对算法决策的反应。定性分析确定了涉及正义性感知的几个关注点和启发式方法，包括任意性、概括性和（不）尊严。定量分析表明，解释风格仅在受试者接触多种不同风格时才对正义性感知产生主要影响——在反复接触一种风格的情况下，场景效应掩盖了任何解释效应。我们的结果表明，可能没有解释算法决策的“最佳”方法，而且对其自动化性质的反思既涉及又缓解了正义性维度。