系统不公正背景下公众对算法歧视的看法

研究背景与问题

• 问题与挑战：在高风险决策场景中使用算法可能导致对某些群体的不公平对待，例如种族和性别少数群体。尽管算法公平性研究致力于使算法更“计算公平”，但往往忽略了算法嵌入不公正社会结构的背景。这种背景忽视可能导致算法加剧而非解决社会不公。
• 重要性：这种算法的不公正性不仅对社会少数群体有直接影响，还可能在决策中进一步固化不公正的社会结构。
• 研究动机：现有对算法公平性的认知研究往往未将算法嵌入系统性不公背景中，导致其建议可能无法有效达到公平目标。作者试图填补这一研究空白，探索信息化处理如何影响公众对算法性别或种族歧视的认知。

解决方案

• 提出方法：作者通过一个2x3的实验设计（涉及716名参与者），研究是否将算法决策嵌入系统性不公正背景能够影响普通人对算法歧视的看法。此外还探讨解释算法如何学习人类决策并延续其偏见是否会改变人们对算法的态度。
• 创新性：研究首次直接比较了两种干预方式（历史背景与算法学习从前人偏见）对参与者认知的影响。
• 关键技术与实施步骤：
  1. 使用招聘场景中的种族歧视为案例背景。
  2. 进行实验性操作：参与者阅读内容或背景设置不同（是否包含历史不公正背景、是否解释算法如何学习人类决策）。
  3. 测量关键变量，包括对算法公平性、信任度、以及算法改进或者禁止的态度。

研究成果

• 具体成果：
  • 将算法置于系统性不公正背景具有异质性效果：受益群体的参与者对算法的态度更负面，而受害群体参与者反而对算法的评价更积极。
  • 向参与者解释算法学习并延续偏见未显著影响他们的看法。
• 优势：研究表明将现有算法研究与系统性社会问题联系起来可以揭示公众认知背后的复杂性。同时，揭露了如何对算法的描述可能反过来影响不同群体的态度。
• 实验结果：
  • 参与者对算法决策的分配公平性、过程公平性和信任度普遍评价为负面。
  • 对系统性不公正的解释使不同种族群体的态度出现了显著差异。
  • 歧视受益群体（白人）在读到有关背景后的认知倾向更负面，而少数群体（例如黑人）则趋向对算法更积极的看法。
• 局限性与未来方向：
  • 局限性：
    • 实验设计存在“底线效应”，即算法歧视的明确性可能抑制了更显著的实验效果。
    • 文本操纵单一，可能无法完全启发参与者对系统性问题的深刻认识。
    • 仅局限于美国背景且关注种族问题，未来需要扩展至其他国家和群体。
  • 未来方向：
    • 探索更多格式的干预，例如互动工具、数据可视化或模拟实验。
    • 检验不同干预措施如何影响公众理解算法工作机制及其社会影响。
    • 引入其他背景如性别或经济不公正，观察干预能否有效转化公众关切。

总结

本研究揭示了算法评价的社会背景对公众认知的重要影响，并建议未来需要进一步研究如何有效向公众解释算法的不公平性及学习机制。同时，该研究提醒我们在设计和部署算法时不可忽视其嵌入的系统性社会问题，从而避免加剧不公正。