使用AI写作可减少招聘评估中的性别偏见

文献标题

Writing with AI Can Reduce Gender Bias in Hiring Evaluations

出版信息

• 主题领域: 使用AI写作助手减少招聘评估中的性别偏见。
• 关键词: 性别偏见，AI写作助手，招聘评估，刻板印象，能力，温暖，决策，薪资差距，语言干预。

背景与问题

• 问题/挑战: 性别刻板印象在职场评估中依然存在，通常将男性与能力相关联，将女性与温暖相关联，从而导致招聘和薪资决策中的偏见。现有干预措施（如意识培训、榜样作用）通常效果参差不齐，并依赖间接机制。
• 重要性: 解决招聘中的性别偏见对于职场公平至关重要，因为偏见会影响领导机会、薪资待遇以及对能力的认知。
• 动机与相关研究: 以往研究强调语言在维持刻板印象中的作用。AI写作助手能够影响语言生成，提供了通过重塑描述性语言直接干预的机会。然而，其减少偏见的潜力尚未被系统性研究。

解决方案

• 提出的方法: 开发一种AI写作助手，提供自动补全建议，以突出候选人评估中的刻板印象特征、反刻板印象特征或中性特征。
• 创新点:
  1. 通过直接操控描述性语言来应对性别刻板印象。
  2. 评估对认知、招聘决策和薪资建议的下游影响。
  3. 检验潜在的负面效应，例如对反刻板印象候选人可爱度的降低。
• 程序与关键技术:
  • 参与者（N = 672）评估了一位男性（“John”）和一位女性（“Jennifer”）候选人申请金融分析师职位的简历。
  • AI对Jennifer的建议根据实验条件有所不同：刻板印象（以温暖为导向）、反刻板印象（以能力为导向）或中性。
  • 测量结果包括书面评估、特质印象、招聘决策、薪资建议以及亲和性判断。
  • 语言操控通过GPT-4驱动的自动补全建议实现，提示语与实验条件相匹配。

结果

• 具体发现:
  • 反刻板印象建议提高了对Jennifer能力的认知，并消除了她与John之间的薪资差距。
  • 在反刻板印象条件下，Jennifer的薪资与John相近（$64,446 vs. $64,802, p =.278），而在控制组和刻板印象条件下存在显著差距。
  • 反刻板印象建议降低了Jennifer的温暖感和作为同事的可爱度。
• 相较基线的优势:
  • 反刻板印象建议减少了薪资差距，这一结果在控制组或刻板印象条件下未观察到。
  • 在反刻板印象条件下，参与者在评估Jennifer时使用了更多与能力相关的语言。
• 实验/评估:
  • 参与者在AI辅助下撰写评估，并完成特质评分、招聘决策和薪资建议。
  • 使用基于词典的分析、余弦相似度指标和GPT-4评估量化语言中的性别偏见。
  • 招聘决策未观察到显著变化，但在反刻板印象条件下Jennifer被选择的比例略高（44.6% vs. 41.5% in control, p >.05）。
• 局限性与未来工作:
  • 招聘决策对改变仍然具有抵抗性，可能由于角色一致性和负面效应。
  • 研究仅关注单一职位类型和二元性别，未来工作应探索更广泛的背景、长期影响以及交叉身份。
  • 伦理考虑包括透明性、用户自主性以及潜在的文化同质化问题。

总结

本研究表明，AI写作助手可以通过微妙地改变描述性语言来减少招聘评估中的性别偏见。反刻板印象建议提高了对女性候选人能力的认知，并消除了薪资差距，但同时降低了她们的温暖感和可爱度。尽管招聘决策变化有限，研究结果突出了基于语言的干预措施在专业环境中应对刻板印象的潜力。未来研究应探索此类工具的更广泛应用、伦理问题以及长期影响。