算法公平性认知的质性探索

算法系统越来越多地塑造人们接触到的信息，以及影响就业、财务和其他机会的决策。在某些情况下，算法系统可能对某些群体或个人有利或不利，从而在公共政策界、学术界和媒体中引发了关于算法公平性的广泛讨论。我们通过探讨可能受影响社区的成员对算法公平性的感受来拓宽这一讨论。我们与来自美国历史上因种族或阶级而被边缘化的几个群体的44名参与者进行了研讨会和访谈。尽管算法公平性的概念对他们来说大多不熟悉，但了解算法（不）公平性引发了与当前关于种族不公和经济不平等的全国性讨论相联系的负面情绪。除了对自身和社会潜在危害的担忧外，参与者还表示，算法公平性（或缺乏公平性）可能会显著影响他们对公司或产品的信任。