面向员工福祉的合理且敏感的人工智能：影响信息工作者采纳和抵制的因素

文献标题

Sensible and Sensitive AI for Worker Wellbeing: Factors that Inform Adoption and Resistance for Information Workers

文献信息

• 主题领域: 人工智能应用于信息工作者福祉管理的理解与设计
• 关键词: 信息工作, AI技术采纳, 被动感知, 数字表征, 技术影响, 风险与好处, 人力资源管理, 工作者健康, 心理健康

研究背景与问题

• 问题或挑战: 信息工作者（IW）在技术和媒体领域面临压力，其中被动感知驱动的人工智能（PSAI）系统利用行为痕迹推测工作者的表现与心理状态，但这些技术也引发了隐私风险、技术滥用和接受阻力。
• 重要性: 随着工作环境的数字化转型，理解工作者对这些技术的接受和抵制是确保技术能够支持工作者福祉而非加重负担的重要环节。
• 研究动机与相关工作: PSAI系统的设计常忽略工作者的声音，导致了对隐私和公平的担忧。研究旨在通过工作者视角，优化技术设计以更好地服务于福祉目标。

解决方案

• 提出方法或解决方案:
  • 作者从工作者视角出发，通过设计情境实验调查 PSAI 系统设计的 4 个关键特性（数据感知模式、感知范围、推论类型、数据分享方式）如何影响工作者的接受度。
  • 运用线性混合效应模型分析工作者对 PSAI 的态度，同时验证其设计和实现的潜在风险与价值。
• 创新之处: 提出了一个分析框架，将数据感知、推论形式和信息共享机制拆分为独立但相关的因子，通过实验逐步量化工作者对技术的态度和接受阈值。
• 实施步骤与关键技术:
  1. 实验情境设计: 创建情境评估问卷，并确保包含感知模式、范围、推论目标及共享方式的随机组合。
  2. 数据收集与分析: 110 名信息工作者参与实验，共计完成 1059 次情境评估。
  3. 统计建模: 使用线性混合效应模型检验每个情境组件对工作者感知效益和危害的影响。

研究成果

• 具体成果:
  • 感知模式：
    • 记录数字使用时间和物理活动的 PSAI 系统被认为更具有价值且危害较小。
    • 使用在线语言数据与视觉流数据的技术较难被工作者接受。
  • 感知范围：
    • 限制于工作范围的感知方式在某些数据源（如在线语言）上更受欢迎。
  • 推论类型：
    • 用于评估心理健康（如压力评估）的 PSAI 系统比评估绩效的系统更被工作者接受。
  • 数据分享方式：
    • 工作者更倾向于仅个人接收分析结果，或以匿名汇总形式分享。与经理或其他个体直接分享分析结果的方式较少被接受。
• 优势: 提供了基于工作者福祉需求的 PSAI 设计指南，避免提升隐私和信任风险。
• 实验或评估结果: 发现较少的 PSAI 系统设计场景获得正向接受度，说明当前实现的大部分系统仍需优化。
• 局限性与未来方向:
  • 局限性:
    • 实验以假设情境为主，缺乏对真实世界行为的验证。
    • 多模态感知系统的综合分析仍不充分。
  • 未来方向:
    • 扩展研究至政府政策与经济危机背景下 PSAI 的使用。
    • 加强跨国比较研究，探索不同地区和文化背景下的技术采纳差异。
    • 开发更透明的 PSAI 系统，增加解释性和工作者参与度。