数据主体对工作场所情感人工智能使用的看法：关系伦理视角

工作场所经历了广泛的数字化转型，部分原因是人工智能的商业化可用性。虽然仍是一项新兴技术，但情感人工智能（EAI）越来越多地被纳入企业系统中，以增强和自动化组织决策，并监控和管理员工。EAI的使用常因其改善员工福祉和绩效以及解决组织问题（如偏见和安全）的潜力而受到赞扬。工作场所中受EAI影响的员工是数据主体，他们的数据使EAI成为可能，并受到最大影响。然而，目前缺乏数据主体对EAI（包括在工作场所中）视角的经验性知识。为此，我们采用关系伦理视角，对395名美国成年人关于在工作场所受EAI影响所感知到的益处和风险的开放式调查回答（部分具有代表性）进行了定性分析。虽然参与者承认受EAI影响的潜在益处（例如，雇主使用EAI帮助其福祉、改善工作环境、减少偏见），但大量潜在风险使对潜在益处的看法黯然失色。参与者表达了对EAI使用可能损害其福祉、工作环境和就业状况，以及对其造成和放大偏见和歧视的担忧，特别是对最边缘化的群体（如种族、性别、精神健康状况、残疾等方面）。由于对EAI及其潜在风险的不信任，参与者预期在实际中会顺从（例如，参与情绪劳动）或拒绝（例如，辞职）EAI的实施。我们认为，EAI可能放大而非减轻数据主体在工作场所面临的挑战，并表明即使解决EAI准确性和偏见的担忧，某些EAI造成的伤害仍将持续存在。