声望与偏见：招聘工作和算法的相互作用如何在软件工程中强化社会不平等

研究背景与问题

作者发现了哪些问题或挑战？

• 技术行业在解决其技术岗位人员多样性不足的问题上长期遇到瓶颈，尤其是在招聘过程中存在的系统性问题对多样性产生了重要影响。
• 招聘实践与算法工具的交互：研究发现招聘者在使用算法招聘工具进行候选人筛选时，与他们的工作实践相互作用，最终可能巩固现有的偏见。
• 招聘流程中的**“典型性”（typicality）与“声望”（prestige）**：招聘者倾向于优先选择计算机科学专业毕业生、顶级科技公司从业者以及居住在科技中心（如旧金山湾区）的人才，这种倾向可能进一步固化社会刻板印象。
• 多样性搜索功能的局限：即使在声称支持多样性招聘的算法工具中，也发现对少数族裔（尤其是黑人和拉丁裔）和非传统背景候选人的支持严重不足。

为什么这个问题很重要？

• 当前技术行业内的多样性不足会导致创新潜力的浪费，并扩大社会不平等。
• 招聘工具自动化的兴起被认为能够消除人类偏见，但研究表明这些算法本身可能带有偏见，甚至会放大现有问题。
• 现行招聘系统对“典型工程师”的刻板印象可能会排除非传统路径（如职业切换者或少数族裔）的候选人。

研究动机与相关工作

• 作者试图填补现有文献的空白：尽管已有诸多研究分析了算法偏见、招聘过程中的社会不平等，但较少有研究专注于招聘者实践与算法系统交互如何共同影响候选人筛选。
• 相关研究显示，顶尖科技公司招聘流程实际在社会阶层背景上表现出明显的偏向（如对具有高社会地位的候选人的偏爱）。

解决方案

作者提出了哪些方法或解决方案？

• 双重方法研究：
  1. 招聘者访谈：采访15位技术公司的招聘人员，通过半结构化访谈和认知流程分析，了解其工作流程及工具的使用方式。
  2. 算法搜索结果分析：分析一个广泛使用的招聘工具“Tool X”，通过模拟招聘者的搜索行为评估算法结果如何表现出种族、性别和社会经济地位的倾向。

该解决方案的创新之处是什么？

• 拓展了算法公平性和招聘行为研究，融合了社会技术系统的视角，侧重研究招聘者的实践与工具的交互如何共同塑造人才筛选的偏见。
• 质性访谈与量化搜索结果分析结合，深入揭示了工具设计如何影响招聘行为，并分析其对招聘结果多样性的连锁反应。

实施步骤是什么？使用了哪些关键技术？

1. 招聘者访谈：
   • 通过半结构化访谈了解招聘人员对候选人的认知与评估方式。
   • 使用认知流程剖析（cognitive walkthrough），观察招聘者如何在实际中操作算法工具。
2. 算法工具分析：
   • 模拟实际招聘者的关键词搜索行为，运行了9个测试搜索，以评估输出中候选人的人口统计特征。
   • 数据标准化与清洗，评估候选人简历中教育背景、工作经验、地理位置等因素。
   • 手动与算法分类结合分析候选人的性别与种族信息。

研究成果

取得了哪些具体成果？

1. 招聘者的“典型性”与“快捷方式”：
   • 招聘者尤其倾向选择有计算机科学学位、FAANG（Facebook/Meta、Amazon、Apple、Netflix、Google/Alphabet等）背景和居住在科技中心的候选人。
   • 这些“快捷方式”被认为是满足紧迫招聘配额的最有效方式。
2. 招聘工具的界面与结果设计的影响：
   • 工具的自动过滤选项和简历总结功能强化了上述的“典型性”定义。
   • 搜索排名对高声望候选人（如FAANG员工）呈现严重倾向。
3. 偏见的多层强化：
   • 即使在“多样性搜索”中，候选人结果仍难以反映黑人和拉丁裔在计算机行业中的人数占比。
   • 女性候选人数据较为符合行业比例，但拉丁裔女性完全缺席。
   • 工具强烈偏向于旧金山湾区等科技中心地区的候选人，这可能进一步排除来自低成本城市和背景多样化地区的候选人。

与现有解决方案相比，它有哪些优势？

• 与直接将招聘系统算法视为“去偏见”工具的看法不同，作者揭示了工具与人类实践交互如何共同维持社会不平等。
• 整合了招聘者行为与技术工具输出两方面的数据，提供了更全面的分析。

实验或评估结果是什么？

• 招聘工具和招聘实践共同作用，使高声望候选人在招聘流程中的占比显著高于行业整体比例（例如FAANG雇员约占工具输出候选人比例的19%，而实际数据不到0.05%）。
• 算法推荐中的种族与性别歧视倾向较为隐晦，却对少数族裔产生显著负面影响。

局限性与未来方向

1. 局限性：
   • 仅研究了软件工程岗位的招聘，可能无法完全描述其他技术领域的情况。
   • 分析集中于一个招聘工具“Tool X”，未来或需更广泛比较多个工具。
   • 访谈样本量有限，可能存在非代表性偏差。
2. 未来方向：
   • 延伸至其他技术岗位或行业以验证结论的适用性。
   • 扩展对候选人角度的研究，探讨他们如何感知和应对算法驱动的招聘工具。
   • 加强招聘工具的透明性与问责机制，研究公司如何在不增加招聘负担的情况下鼓励多元化考量。

总结

作者通过访谈与案例分析结合，深入探讨了算法驱动招聘流程如何与招聘者行为互动，共同巩固社会不平等。研究结果揭示了招聘工具设计的局限性及其对候选人多样化的潜在负面影响，同时呼吁改变现有招聘系统的文化与结构，以推动真正的公平和包容。