公平定义因社会经济群体而异并影响算法决策感知

在算法决策日益普及的时代，决策对象如何感知算法决策至关重要。研究聚焦旧金山十年之久的算法学校分配政策，运用程序正义和分配正义理论探究家长对分配算法公平性的感知。研究发现，家长对公平的定义（例如对所有人应用相同规则或获得首选）显著影响其对所获结果公平性的整体感知，即使控制了结果的合意性。此外，人们对公平的定义和感知在社会经济群体和种族群体间存在差异。例如，在白人受访者中，最常用的公平定义是学校"就近"原则，而在西班牙裔或拉丁裔家长中，最流行的公平定义是对所有人应用"相同规则"。研究结果对于计算系统设计者和决策者在决定嵌入决策系统的目标和价值观时需要考虑这些差异具有重要意义。