人力资源管理中的人机交互：理解员工为何抵制工作场所的算法评估以及如何减轻负担

文献标题

Human-AI Interaction in Human Resource Management: Understanding Why Employees Resist Algorithmic Evaluation at Workplaces and How to Mitigate Burdens

文献信息

• 主题领域: 人工智能与人力资源管理中的人机交互
• 关键词: 人工智能 (AI), 可解释人工智能 (XAI), 算法管理, 人力资源管理 (HRM), 用户负担, 透明性, 可解释性, 人机协作, 算法抗拒, 算法公平, 采用性, 信任, 负责任的AI

研究背景与问题

• 问题或挑战:

  • 当前算法在人力资源管理中的应用逐步增加，尤其是工作绩效评估和决策。然而，员工对算法性评估的抵触情绪可能限制了这一技术的广泛采用，特别是在涉及敏感的管理和评价任务时。
  • 算法引入后的法律伦理问题、数据偏差和员工复杂的心理社会因素加剧了采用的难度。

• 重要性:

  • 随着企业逐步采用人工智能解决方案，理解员工对算法性决策的抗拒和接受情况尤为重要。解决这些问题可以减少因抗拒产生的不必要成本和冲突，同时确保系统的公平性和可信度。

• 研究动机与相关工作:

  • 当前对算法在招聘等领域的研究较多，但针对现有员工的绩效评估研究不足。
  • Lee等研究发现员工对涉及“人的能力”任务的算法决策（比如招聘和工作评估）表现出不信任和负面情绪。
  • 本研究专注于理解员工对算法性决策抗拒的具体原因以及如何减轻这些抗拒。

解决方案

• 方法或解决方案:

  • 作者通过21位不同职业背景的员工进行场景设计的深入访谈，以探索他们对算法评估的看法及负担。
  • 提出了以透明性、可解释性以及人机协作为核心的设计干预方法来缓解员工负担。

• 创新之处:

  • 提出了六种负担类型分类（情感负担、心理负担、偏差负担、操控负担、隐私负担、社会负担），并明确了相应的减轻负担的设计建议。
  • 强调了透明化过程与管理者、人机协作的比例调整对员工抗拒减轻的重要性。

• 实施步骤与关键技术:

  • 设计用于HRM领域的具体场景并基于真实案例进行访谈。
  • 使用主题分析方法分析访谈数据，识别员工负担类别及减缓策略。
  • 提出设计建议，包括解释性设计、透明化管理、协作决策和情感支持等。

研究成果

• 具体成果:

  • 确定了员工对算法性工作评估的六大负担类别:情感负担（如不人性化负担和诡异谷现象）、心理负担（如解读复杂算法决策的困难）、偏差负担（如数据和算法不完整造成的不公平决策）、操控负担（如算法所有权及数据输入可控性模糊）、隐私负担（如侵犯个人隐私）、社会负担（如工作竞争环境恶化和团队氛围受损）。
  • 提出了针对这些负担的缓解建议：
    • 可解释性：算法需要用易懂和互动的形式解释其决策理由。
    • 透明性：需要公开评估标准和过程，并明确操作人员角色。
    • 人机协作：通过协作决策中权重分配和反向监控，解决操控与偏差问题。
    • 情感支持：避免AI展示“虚假同情”，提供由人类操作的咨询服务。
    • 社交补充机制：设计鼓励团队协作和关系建设的奖励系统。

• 优势:

  • 与人类评估系统相比，算法评估被认为更客观、减少了偏见，但同时也需要克服新技术带来的社会心理障碍。
  • 提出的解决方案降低了算法不透明或机械性带来的员工负面情绪，提高了系统信任度和接受度。

• 实验或评估结果:

  • 访谈结果显示，透明性和人机协作设计显著降低员工对算法评估的不信任感。
  • 大多数参与者倾向于接受人机协作而非完全算法驱动的评估。

• 局限性与未来方向:

  • 局限性：
    • 使用场景设计方法可能无法完全反映真实员工对AI的抗拒与接受体验。
    • 访谈样本较小，需进一步统计测试来验证研究结论的泛化性。
  • 未来工作：
    • 通过实际员工体验数据（比如被算法解雇的员工）进一步验证该研究并扩展发现。
    • 探索透明性和可解释性在HRM领域的最佳实践，研究各种设计介入对不同负担类型的具体影响。