表层偏见：头像外观如何影响AI招聘感知

文献标题

Skin-Deep Bias: How Avatar Appearances Shape Perceptions of AI Hiring

出版信息

• 主题领域: 人机交互在招聘情境中的应用
• 关键词: AI招聘, 公平性, 偏见, 虚拟形象, 具身对话代理, 信任, 社会认同理论, 多模态测量, 生成式AI, 眼动追踪

背景与问题

• 问题/挑战: 现有关于AI招聘系统算法公平性的研究主要集中于技术性偏见的缓解，而忽视了AI虚拟形象中的视觉身份线索如何在交互过程中影响人们对公平性和偏见的感知。
• 重要性: 理解这些感知对于设计公平的AI系统至关重要，因为虚拟形象中的身份线索可能重现刻板印象并加剧对不公平的感知，尤其是在招聘这样高风险的情境中。
• 动机与相关研究: 先前研究表明，人们会将社会脚本应用于AI系统（CASA范式），而公平感知受到群体层面偏见和个人结果的影响。然而，研究尚未探讨实时自适应AI虚拟形象在招聘情境中的作用，也未涉及种族和性别身份线索的交叉效应。

解决方案

• 提出的方法: 利用基于实时生成式AI的具身对话代理（ECA）平台进行众包研究，模拟AI招聘面试，系统性地改变虚拟形象的表型特征（种族和性别），并测量对信任、公平性和偏见的感知。
• 创新性:
  1. 展示交叉身份线索（种族×性别）如何在自适应AI面试中影响公平性归因。
  2. 结合自我报告、情感分析和基于摄像头的眼动追踪，捕捉显性和隐性反应。
  3. 引入一个可扩展的平台，用于实时研究具备公平敏感性的ECA交互。
• 流程与关键技术:
  • 参与者完成了一次模拟的基于AI的求职面试，虚拟形象的种族（黑人/白人）和性别（男性/女性）有所不同。
  • 采用2×2实验设计，将参与者分配到身份匹配/不匹配的条件中（无匹配、性别匹配、种族匹配、完全匹配）。
  • 测量指标包括信任、感知公平性、感知偏见、情感分析以及通过眼动追踪收集的注视数据。
  • 所有参与者均收到标准化的拒绝信息，以控制结果偏好性偏差。

结果

• 具体发现:
  • 种族不匹配增加了感知种族偏见（在5分制中增加+0.37）。
  • 部分匹配（仅种族或仅性别匹配）相比完全匹配或无匹配条件，降低了感知公平性（约在5分制中减少0.28–0.30）。
  • 黑人虚拟形象在认知信任（在7分制中增加+0.36）、未来面试意图（在5分制中增加+0.37）和舒适度（在5分制中增加+0.46）评分上高于白人虚拟形象。
  • 注视数据表明，对不匹配虚拟形象面部的注视焦点增加了23%（相对于匹配情况）。
• 相较基线的优势:
  • 在先前关于异步视频面试的研究基础上，引入了实时自适应ECA和多模态测量。
  • 突出了交叉身份效应，挑战了单一类别公平性假设。
• 实验/评估:
  • 来自英国、德国和美国的215名参与者参与了众包研究。
  • 实验设计操控了虚拟形象的种族和性别，以匹配/不匹配参与者的自我认同身份。
  • 测量指标包括李克特量表自我报告、情感分析和基于摄像头的注视追踪。
• 局限性与未来工作:
  • 仅限于二元种族（黑人/白人）和性别（男性/女性）类别，未包括非二元和多种族身份。
  • 模拟招聘情境缺乏实际就业风险，降低了生态效度。
  • 技术问题（如ASR失败、眼动追踪准确性）影响了数据质量。
  • 未来工作应扩展身份表示，在非WEIRD（西方、受教育、工业化、富裕和民主）背景中测试，并评估真实招聘场景。

总结

本研究探讨了虚拟形象的种族和性别如何影响AI介导的招聘面试中的公平性、信任和偏见感知。结果显示，种族不匹配加剧了感知偏见，而部分匹配相比完全匹配和无匹配条件降低了感知公平性。尽管信任在各条件下均保持较高水平，但注视数据揭示了对不匹配虚拟形象的关注增加。通过结合自我报告、情感分析和眼动追踪，本研究为研究自适应AI系统中的公平性提供了实证证据和方法工具。研究结果强调了在高风险领域中设计AI面试虚拟形象以缓解公平性问题的重要性，从而支持公平的交互。