位置性产品：技术工作者如何在计算机视觉中塑造身份概念

文献标题

Products of Positionality: How Tech Workers Shape Identity Concepts in Computer Vision

文献信息

• 主题领域: 人工智能、计算机视觉、人机交互中的身份概念及偏倚
• 关键词: 技术工作者, 身份, 定位性, 计算机视觉, 工作研究, 机器学习

研究背景与问题

• 发现问题或挑战:

  • 计算机视觉技术在分类和识别人类身份时存在显著的身份相关偏倚问题，例如性别分类、种族定义等。
  • 现有研究多关注数据工作者的角色对偏倚的贡献，而对设计和定义身份概念的技术工作者关注较少。
  • 技术工作者的“定位性” (positionality)——他们的价值观、经验及处于的社会环境对产品设计的深远影响仍未充分探讨。

• 重要性:

  • 身份分类是计算机视觉的核心部分，但身份分类的不准确或偏倚可能导致社会歧视、隐性不公平等严重后果。
  • 了解产品开发中的定位性对提升计算机视觉产品的公平性和准确性至关重要。

• 研究动机与相关工作:

  • 探讨技术工作者如何将自己的定位性嵌入到计算机视觉产品设计中。
  • 分析定位性如何通过团队互动及公司环境被塑造和构建。
  • 与现有的机器学习偏倚研究结合，补充技术工作者对身份概念定义过程的影响。

解决方案

• 提出的方法或解决方案:

  • 通过半结构化访谈研究技术行业的计算机视觉实践者，包括研究人员、工程师、项目经理等。
  • 侧重分析参与者如何从个人定位性出发定义身份概念，以及如何在公司环境中与其他同事合作或冲突。

• 解决方案的创新之处:

  • 将定位性理论引入计算机视觉研究领域，强调设计产品时技术工作者的社会、文化和经济背景的影响。
  • 提出一个基于多层次上下文（宏观社会、开发环境、公司层面）的研究框架，剖析定位性如何影响身份决策。

• 实施步骤和关键技术:

  1. 招募参与者：通过直接联系和滚雪球采样方法招募了24名计算机视觉技术从业者。
  2. 访谈设计：制定灵活的访谈问题，通过反复讨论身份概念、组织环境和具体产品问题展开调查。
  3. 数据分析：应用框架性编码和备忘策略进行主题提取，并结合作者的研究视角解读数据。

研究成果

• 具体成果:

  • 技术工作者的个人定位性在定义身份分类（如性别、种族等）时占据主导作用，其决策受上下文（经济约束、公司政策和价值观）的影响。
  • 与其他同事的定位性差异可能导致团队内冲突和复杂的协商过程。
  • 未考虑其他视角或定位性可能导致产品失败，例如嵌入性偏倚或用户体验不佳。

• 与现有解决方案相比的优势:

  • 通过定位性理论分析技术工作者的社会环境和个人经验如何影响产品设计，将偏倚问题置于设计的根源上进行探讨。
  • 提出一种全过程的定位性分析框架，而非仅关注偏倚的处理结果。

• 实验或评估结果:

  • 不同公司间资源不平衡显著影响技术工作者实现公正性和责任性设计的能力。
  • 大公司提供更多经济资源支持伦理设计，而小型公司更受市场需求驱动。
  • 在具体产品开发中，调动团队间的多样性有助于弥补个人定位性局限。

• 局限性与未来方向:

  • 技术工作者的丰富定位性难以全面捕捉，研究可能偏向于可观察到的显性特征。
  • 未来需要探索如何更有效地记录和利用定位性信息，以建立灵活、动态适应文化及社会的技术设计流程。

总结与启示

• 技术工作者的定位性深刻影响计算机视觉产品的身份分类设计，当前技术实践需要更加主动地关注定位性。
• 提出两种途径来处理定位性问题: (1) 上下文层面，包括社会背景、公司价值观和行业监管；(2) 个体层面，强调技术工作者、数据工作者和客户的独特视角。
• 建议开发者和研究者更深层次地审视定位性问题，避免因设计盲点导致的偏倚，创造更加公正和负责任的人工智能产品。