监控适宜性：AI招聘面试如何影响残障求职者

文献标题

Surveilling Suitability: How AI Hiring Interviews Impact Job Seekers with Disabilities

出版信息

• 主题领域: 人工智能招聘技术及其对残障求职者的影响
• 关键词: AI招聘面试、残障、监控、职场歧视、无障碍性、规范特征、信息不对称、隐私、自主性、政策

背景与问题

• 问题/挑战: 旨在简化招聘流程并减少偏见的AI招聘面试，可能通过聚焦规范化标准、制造信息不对称、削弱自主性以及侵犯隐私，进一步加剧对残障人士的歧视。
• 重要性: 残障人士面临着不成比例的高失业率和系统性就业障碍。理解并解决AI招聘技术的歧视性影响，对于实现公平的劳动力参与至关重要。
• 动机与相关研究: 尽管AI招聘技术承诺提高效率和公平性，但已有研究表明，AI可能强化系统性偏见，尤其是针对边缘化群体。然而，针对残障人士在这一背景下的具体体验的研究仍然有限，这一研究填补了这一关键空白。

解决方案

• 提出的方法: 本研究采用定性方法，包括对19位残障人士的焦点小组讨论和访谈，调查他们对AI招聘面试的看法和体验。
• 创新性:
  1. 提供了关于残障人士如何看待和体验AI招聘面试的丰富实证证据。
  2. 将AI招聘面试框定为监控基础设施，突出其在重新配置权力动态和社会关系中的作用。
  3. 提出设计、政策和社区参与策略，以减轻歧视性影响并促进公平的AI系统。
• 过程与关键技术:
  • 进行了焦点小组讨论（5场，共11名参与者）和半结构化访谈（8名参与者）。
  • 使用主题分析法识别了四个关键主题：聚焦规范特征、加剧信息不对称、削弱自主性以及侵犯隐私。
  • 包含一个“逐步揭示”环节，以探讨参与者对AI招聘技术的反应。

研究结果

• 具体发现:
  • AI招聘面试被认为令人不安、疏离且具有歧视性。
  • 参与者指出了四个关键问题：
    1. AI强化了规范化标准，惩罚与残障相关的非规范行为。
    2. AI制造了信息不对称，限制了招聘过程中的互惠性和透明性。
    3. AI通过限制残障披露和决策，削弱了自主性。
    4. AI侵犯了隐私，尤其是通过自动化残障检测和不透明的数据实践。
• 相较基线的优势: 本研究提供了关于AI招聘技术如何影响残障人士的细致理解，这是以往研究中未充分探讨的视角。
• 实验/评估:
  • 参与者包括19名具有多样化残障背景的个体。
  • 数据收集包括焦点小组讨论和访谈，使用主题分析法识别了关键障碍和关注点。
• 局限性与未来工作:
  • 仅限于美国的参与者，样本规模较小。
  • 未探讨特定残障群体的具体问题。
  • 未来研究应包括更大样本量、定量研究以及全球背景的探索。

总结

本研究探讨了AI招聘面试对残障人士的歧视性影响，识别了四大关键障碍：聚焦规范特征、加剧信息不对称、削弱自主性以及侵犯隐私。通过将这些技术框定为监控基础设施，研究突出了其在重塑权力动态和延续不平等中的作用。研究结果为设计和政策提供了可操作的建议，包括参与式AI流程、社区主导的审计以及监管保护，以促进公平的招聘实践。本研究为理解AI对边缘化群体的社会影响作出了贡献，并为创建包容性技术提供了路径。