算法权力还是惩罚：信息工作者对被动感知启用的AI性能和福祉表型分析的看法

文献标题

Algorithmic Power or Punishment: Information Worker Perspectives on Passive Sensing Enabled AI Phenotyping of Performance and Wellbeing

文献信息

• 主题领域: 人因计算、信息化工作场所的被动感知与AI算法影响
• 关键词: 被动感知, 算法型表型采集, 信息工作者, 人力资源管理, 员工福祉, 人工智能伦理, 隐私, 数据流动态, 工作场所监督

研究背景与问题

• 发现的问题:

  1. 被动感知AI技术（PSAI）正在推动信息工作者在绩效和福祉方面的“数字表型”（digital phenotype）评估，但其引发了隐私侵犯和权力失衡的担忧。
  2. 在组织中，这些系统可能存在滥用风险（如隐私外泄或数据被用于消极目的），并且很少为员工自身提供直接利益。
  3. 企业采用PSAI来促进远程和混合办公，可能迫使员工在隐私和便利之间做出妥协。

• 研究重要性: 被动感知AI可能在提升员工工作体验和组织效率之间找到平衡，但需要了解数据主体（工作者）的期望，以指导技术设计和政策规范，避免进一步恶化权力不平衡。

• 研究动机与相关工作:

  1. 通过现有文献，与组织监督、隐私和员工监督等领域对话，并借用Foucault的控制理论，探讨技术如何在增强福祉和加强权力控制之间寻求平衡。
  2. 强调Contextual Integrity（情景完整性）框架，分析信息流在社会和工作情境中的适当性与分配规范。

解决方案

• 提出的方法与方案: 作者通过28位信息工作者的情景式采访，探讨其对PSAI的观点，特别是工作中的绩效与福祉算法预测是否适当（“规范适当性”），以及相关数据与何种利益相关者共享的合理性（“分配适当性”）。

• 创新之处:

  1. 引入Contextual Integrity框架来研究特定工作情境下的信息流动态。
  2. 通过情景比较法启发参与者反思，鼓励他们重新构想数据流动和AI应用的可能性。
  3. 将工作者的观点放在中心，提出以实现数据主体为受益者的“工人中心PSAI”设计方向。

• 实施步骤:

  1. 设计并展示基于真实AI应用的7种工作场景，涵盖不同类型的感知技术及数据分发方式。
  2. 与参与者讨论适用性、隐私、安全性与共享条件。
  3. 对采访数据进行主题分析，运用Contextual Integrity框架梳理参与者的观点。

• 关键技术:

  1. 被动感知技术：例如CCTV摄像头、PC活动记录、通信数据日志等。
  2. 人机交互框架：情景评价与用户反射方法。
  3. 算法评价：探索PSAI对人力资源管理和员工自我优化的可能性。

研究成果

• 具体成果:

  1. 对“规范适当性”的洞察:
     • PSAI的适用性主要取决于其对工作后果、工作与生活界限管理、以及灵活性的影响。
     • PSAI如果能够帮助员工改善绩效反馈、学习更好的工作习惯、支持自我发展，则被认为有潜力。
     • 然而，员工普遍担忧其数据可能被滥用，从而导致职业发展受限或产生额外压力。
  2. 对“分配适当性”的洞察:
     • 工作者希望对共享AI数据流有更多控制权，尤其是在共享内容的解释与传递时间点上。
     • 员工倾向于与直接管理者分享数据，而不是人力资源部门，并希望建立明确的数据共享政策。

• 与现有解决方案相比的优势:

  • 强调工人视角，注重隐私与自主性的保护。
  • 提出了工人对“人性化再审视”（human reappraisal）和分布式数据共享的新愿景。

• 实验或评估结果:

  1. 通过情景式访谈发现，PSAI需要处理个体的多样化工作偏好与隐私需求。
  2. 研究提出需平衡算法生成的精确度与交互透明度，使结果更易被理解与接受。

• 局限性与未来方向:

  1. 本研究重点放在信息工作者的视角，未充分讨论其他利益相关者（如雇主或开发者）的观点。
  2. 采用的采访和情景模拟方法虽然高效，但可能无法捕捉真实环境下PSAI的复杂性。
  3. 未来方向:
     • 针对更多类型工作（如自由职业者或物流人员）扩展调查。
     • 开展基于实际PSAI技术的田野研究，以补充情景访谈的深度。
     • 提倡多利益相关者参与算法设计，探索PSAI的全面性与可持续性。