人工智能训练中的表演准确性形成:精确劳动及其后果

AI 辅助决策与自动化系统隐私设计与用户控制科技伦理与批判性HCI汽车制造商与车辆设计师AI/ML 研究员与工程师HCI 研究员

研究背景与问题

  • 作者发现了哪些问题或挑战? 本论文考察了人工智能(AI)训练领域中技术精准性(technical accuracy)的构建与管理过程,揭示了技术公司对精准性追求可能导致的隐性劳动、糟糕的劳动条件以及对AI训练工作者的实际损害。具体问题包括高精准性要求下的不必要劳动、异化的生产模式、以及劳动权利被机器和企业压制的情境。

  • 为什么这个问题很重要? 精准性和准确性被认为是AI发展的核心价值,通常用来认证技术产品的质量。然而,这些目标的追求不仅带来对劳工的不公平待遇,还可能削弱“高精准性”的实际意义,甚至对所生成AI模型的性能和最终用户造成负面影响。

  • 研究动机与相关工作 尽管现有研究已探讨隐形劳动(如“幽灵劳动”)和AI生产过程中的权力动态,少有关注技术精准性作为核心目标为组织和劳动者带来的具体影响。本研究将这些目标放入实际劳动背景中,分析它们在实际操作中如何演变为表演性精准性(performative accuracy)。


解决方案

  • 作者提出了哪些方法或解决方案? 作者提出了**精密劳动(precision labor)**这一概念,专注于隐性和过度的劳动如何支持AI开发与技术精准性的构建。“精密劳动”描述了压抑人类主体性、以人为代价塑造技术客观性、美化模型质量的隐性劳动过程。此外,作者提出重新设计劳工管理实践以及在AI开发中更透明地记录准确性相关信息的框架。

  • 该解决方案的创新之处是什么? “精密劳动”概念的提出是一个理论上的新视角,强调劳工中过度劳动和随之而来的社会伤害如何被尚未充分反思的技术精准性目标所合法化。此外,通过将劳动者从人类-机器协作中面临的权力不对等视为核心问题,该研究扩展了隐形劳动和数字劳工研究的理论深度。

  • 实施步骤是什么?使用了哪些关键技术? 本研究采用了为期九个月的多地点民族志方法,实地研究了位于中国的AI数据注释中心。通过直接参与劳动活动、深入访谈和观察,捕捉了劳动者在日常工作中面对精准性标准的实际经验和挑战。此外,研究中还使用了基于扎根理论的分析方法,对数据进行了系统化编码和主题提炼。


研究成果

  • 取得了哪些具体成果?

    1. 精密劳动的提出:研究揭示了AI训练过程中过度劳动、高强度标准和隐性工作(如额外的培训和不断返工)如何构建表演性精准性。
    2. 权力动态的强化:研究揭示了客户、机器评估系统和劳动者之间的权力不对称如何进一步压迫人类劳动者的自主性。
    3. 机器对人的等级化压制:人类劳动者在追求高精准性过程中被迫模仿机器的逻辑和决策,表现为“人类向机器的屈从”。
    4. AI模型性能的潜在冲突:研究认为,过度强调表演性精准性实际上可能削弱所构建AI模型的能力。
  • 与现有解决方案相比,它有哪些优势? 该研究从劳工视角出发,强调技术生产中隐性劳动的社会和伦理后果,挑战了精准性作为技术开发绝对目标的合法性。与单一技术改良视角相比,它更加注重劳动条件,尤其是在边缘地区的AI训练组中。

  • 实验或评估结果是什么? 实验证据表明,常见的“高精准性”标准(如95%以上)大多被客户设定为独断性的目标,对AI模型性能的实际提升有限。劳动者的高劳动量和低回报现象普遍存在,具体包括:

    • 常规的工作被频繁拒绝和要求修改(Huishou机制)。
    • 工资因过度标准化和不合理要求被削减。
    • 劳动者心理健康和经济稳定性受到显著负面影响。
  • 局限性与未来方向

    1. 局限性:
      • 本研究基于中国特定场景,结果可能无法直接推广到其他地理或文化背景。
      • 主要采用民族志方法,需要通过大规模调查或量化研究进一步验证发现。
    2. 未来方向:
      • 探讨“精密劳动”在其他行业(如内容审核和数据分析)中的应用。
      • 研究如何在实际AI开发中平衡精准性目标与劳动者福利之间的冲突。
      • 与更广泛的技术工人和社区建立联系,探讨可能的集体行动。

总结与影响

本文系统揭示了构建AI系统“高精准性”价值需求背后的隐性与过度劳动,提出 “精密劳动”作为分析框架。这一研究不仅挑战了技术精准性的建构合法性,也引发了关于劳动者权利、技术伦理与社会公平的更广泛讨论。这对未来技术开发的政策和实践提出了重要启示,特别是在劳资管理和AI模型设计精度之间寻找新平衡的可能性上。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/188596/2025

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/10.1145/3706598.3713112
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2025
emoji_events
奖项
未标记奖项
group
作者
5 位作者
sell
研究子方向
AI 辅助决策与自动化系统、隐私设计与用户控制、科技伦理与批判性HCI
work
职业/产业
汽车制造商与车辆设计师、AI/ML 研究员与工程师、HCI 研究员
article
内容状态
已索引正文
hub
相关论文
1 篇相关论文