从适应参与到建立关系：参与式机器学习的艺术

文献标题

从“适配参与”到“建立关系”：参与式机器学习的艺术

文献信息

• 主题领域: 人机交互（HCI）、机器学习（ML）、人工智能伦理学
• 关键词: 参与式方法, 机器学习, 人工智能, 设计, 伦理学, 算法公平性, 数据主体, 领域知识, AI教育, 社会影响

研究背景与问题

• 发现问题或挑战:

  1. 参与式机器学习（Participatory ML）的发展历程表明，尽管其目标是让最终用户和受影响者参与设计和开发过程，但实际实践中存在权力不平等和信息冲突。
  2. 当前方法面临“参与洗白”（participation-washing）的风险，参与可能被作为一种象征性手段，而非有效的合作。
  3. 如何在参与过程中生成的复杂背景信息与机器学习开发的结构化数据格式之间建立平衡。

• 重要性: 机器学习系统的性能往往对边缘化群体表现不佳，算法偏差和系统不公平性的问题亟待解决。参与式机器学习可以通过民主化设计和透明化开发过程帮助解决这些问题。

• 研究动机与相关工作:

  1. 本研究关注扮演“参与中介”（participation brokers）角色的研究人员和实践者，探讨他们如何在参与式ML项目中促进包括性和处理权力动态。
  2. 扩展参与式ML的研究范围，包括来自北美和欧洲以外地区的项目，这些地区在相关文献中相对欠缺。

解决方案

• 提出方法或解决方案: 作者通过研究参与中介的角色，并进行了18次深入访谈，探索参与式ML项目的实际策略和挑战。这种方法寻求理解在不同组织和地理背景下如何实现“有意义的参与”。

• 创新之处:

  1. 提出了“参与中介”的新视角，关注这些个体如何通过实际行动平衡设计团队与参与者之间的价值创造。
  2. 提倡中介角色的转型，将其从参与适配者转变为教育者和活动倡导者。

• 实施步骤与关键技术:

  1. 访谈设计: 通过目的性和滚雪球式抽样，招募参与中介进行半结构化访谈。
  2. 数据分析: 使用反思性主题分析（reflexive thematic analysis）进行编码和主题提取。
  3. 方法学改进: 访谈中囊括位于北美和欧洲之外的项目，尤其是全球南方地区的项目以拓宽研究视角。

研究成果

• 具体成果:

  1. 描述了参与式项目中“参与”的多样化形式，并揭示了参与中介如何管理权力动态。
  2. 提出了用于教育最终用户的工具和结构化方法，帮助他们理解机器学习的工作方式及其应用。
  3. 把参与式方法扩展到处理间接利益相关者（如被算法影响但不是直接用户的群体）的需求和反馈。

• 优势与比较:

  • 相较于现有方法，该研究强调将参与者视为推动AI未来的合作者，而非单纯的数据提供者或参与者。
  • 提供了实现复杂系统之间联系的具体建议，包括关注间接利益相关者的需求。

• 实验与评估结果:

  1. 在模型评估阶段，参与者的意见被作为是否准备好系统部署的关键决策参考。
  2. 参与中介发现，虽然数据收集和标注阶段更易于纳入参与，但实际决策权仍然集中于中介和数据科学家。

• 局限性与未来方向:

  1. 研究局限性:
     • 样本量小，无法完全展现不同行业或国家参与式工作方法的全部多样性。
     • 没有直接采访参与式项目中的参与者，而是从中介视角出发，可能有部分信息丢失。
  2. 未来方向:
     • 发展支持参与者表达复杂背景信息的工具与框架，以扩展参与式ML的适用范围。
     • 深入研究间接利益相关者的反馈转化机制，尤其是在全球南方项目中的应用。

总结与启示

参与式机器学习的未来发展已超越适配现有工程流程的需求，转向建立长期关系、教育最终用户并倾听间接利益相关者的诉求。这种方法不仅有助于提高系统的社会适应性，还可以推动算法公平与伦理的实践落地。作者建议参与中介在未来发展中成为教育者和活动倡导者，以推动参与式机器学习的民主化潜力。