HCI 参与式人工智能正义：范围综述

文献标题

Participatory AI Justice in HCI: A Scoping Review

出版信息

• 主题领域: 人工智能中的参与式设计，重点关注正义与社会公平。
• 关键词: 参与式人工智能、社会正义、人机交互、设计正义、权力动态、社区参与、人工智能伦理、共同设计、边缘化、人工智能生命周期。

背景与问题

• 问题/挑战: 参与式人工智能（PAI）实践常常未能解决系统性权力失衡和正义问题，导致形式主义或表面化的参与。现有关于面向正义的PAI知识较为零散，研究人员和实践者难以有效导航和实施。
• 重要性: 解决这些问题对于确保人工智能系统的包容性、公平性以及与人类价值观的对齐至关重要，特别是对那些因人工智能负面影响而受到不成比例影响的边缘化社区。
• 动机与相关工作: 参与式设计历史上旨在民主化技术开发，但其在人工智能中的应用面临诸多挑战，包括资源限制、企业收编以及认知鸿沟。尽管对面向正义的PAI的兴趣日益增长，该领域仍缺乏一个全面且可操作的框架来将社会正义原则整合到人工智能设计中。

解决方案

• 提出的方法: 对来自HCI领域的26篇文章进行范围综述，以设计正义原则为指导，绘制参与式人工智能与社会正义的交叉点。
• 创新点:
  1. 提供对HCI中面向正义的PAI实践的整体理解。
  2. 提供关于研究人员和社区在PAI中的角色的方法论反思。
  3. 突出人工制品作为“人工智能边界对象”在促进参与和争论中的潜力。
  4. 倡导与社区主导的倡议建立长期联盟，以维持面向正义的PAI努力。
• 程序与关键技术:
  • 使用ACM数字图书馆进行范围综述，重点分析2019年至2025年间发表的文章。
  • 基于设计正义原则进行演绎主题分析。
  • 将发现分类为六个主题：目的（为什么）、设计对象（什么）、设计者角色（谁参与）、参与者（谁被涉及）、过程（如何）以及生命周期阶段（何时）。

结果

• 具体发现:
  • 大多数PAI工作集中于开发负责任的人工智能、赋权社区或为正义设计。
  • 参与通常发生在人工智能生命周期的问题定义阶段。
  • 工具包、模型和推测性设计等人工制品经常被用来促进参与。
  • 研究人员的立场和权力动态很少被明确讨论。
• 相较基线的优势:
  • 提供一个结构化、面向正义的视角来评估PAI实践，强调社区赋权和长期影响。
  • 突出人工制品的双重角色，即作为参与工具和争论工具。
• 实验/评估:
  • 审查了来自领先HCI领域的26篇文章，包括CHI、DIS、FAccT和TOCHI。
  • 根据发表年份、地理归属、学科背景和主题重点对文章进行分析。
• 局限性与未来工作:
  • 仅限于已发表的学术文章，可能遗漏了有价值的非学术和社区主导的工作。
  • 重点关注设计正义原则，可能未涵盖所有面向正义的PAI维度。
  • 呼吁进一步研究如何维持PAI倡议并整合多样化框架。

总结

本文通过对26篇文章的范围综述，探讨了参与式人工智能在HCI领域与社会正义的交叉点。在设计正义原则的指导下，本文识别了面向正义的PAI的关键实践、挑战和机遇。研究结果强调了社区早期参与的重要性、人工制品作为“人工智能边界对象”的作用，以及与社区主导倡议建立长期联盟的必要性。尽管该领域展现了潜力，但仍然零散，在解决权力动态和维持参与方面存在显著差距。这项工作为推进面向正义的PAI实践以及在人工智能设计中促进有意义的社区赋权奠定了基础。