面向用户驱动的算法审计：探究用户发现有害算法行为的策略

文献标题

Toward User-Driven Algorithm Auditing: Investigating users’ strategies for uncovering harmful algorithmic behavior

文献信息

• 主题领域: 人机交互 (HCI)、算法审计和社会计算
• 关键词: 用户驱动算法审计, 算法偏差, 算法性伤害, 公平机器学习, 模糊理论, 集体工作, 定性方法, 图像搜索

研究背景与问题

• 问题或挑战:

  • 当前算法审计方法主要由专家主导，存在文化盲点和社会动态的局限，难以检测部署在现实环境中的许多偏差和伤害。
  • 传统审计忽略了实际用户的参与，这可能导致偏差问题未被有效发现。
  • 普通用户从日常交互中发现有害算法行为的潜力尚未被深入理解。

• 重要性:

  • 算法偏差会带来社会性伤害（例如刻板印象和错误代表），影响公平性和社会正义。
  • 普通用户对有害算法行为的识别能力是现有专家审计方法的补充，可能帮助完善现有的算法审计框架。

• 研究动机与相关工作:

  • 最近研究表明普通用户兼具发现和评估有害算法行为的潜力，但未充分探讨用户如何高效进行算法审计。
  • 研究旨在探索普通用户的策略，为未来设计更有效的用户驱动算法审计工具提供依据。
  • 在该背景下，该研究集中调查用户如何找出并评估潜在有害算法行为，以及影响用户审计过程的主要因素。

解决方案

• 提出的方法:

  1. 研究普通用户如何评估算法行为，通过设计三阶段研究：包括现状调查任务、日记研究和集体工作坊。
  2. 构建了一个三阶段模型，描述用户如何灵感搜索、理解意义和设法进行补救。
  3. 调查了影响用户行为的主要因素：知识与信念、平台的可供性。

• 创新之处:

  • 首次深入研究用户如何发现并理解算法偏差行为的全过程。
  • 建立了描述用户偏差搜索和意义建构过程的概念模型。
  • 提出了设计便捷和有效用户驱动审计工具的新方向。

• 实施步骤与技术:

  1. 第一阶段（思考学习面试）: 单独任务设计，指导参与者寻找图像搜索中的潜在偏差。
  2. 第二阶段（日记研究）: 持续14天记录日常使用算法时遇到的偏差情况，提交160篇案例。
  3. 第三阶段（集体工作坊）: 通过4个工作坊审查提交的案例，探讨集体情况下的偏差理解和意义分析。

研究成果

• 具体成果:

  • 用户发现了多种类型的算法偏差（例如年龄、性别、种族、政治、宗教偏差）。
  • 提出了一个三阶段用户审计过程模型，包括：搜索灵感、意义建构、补救行动。
  • 确定了影响用户审计行为的两个主要因素：知识信念与平台可供性。

• 与现有解决方案的比较:

  • 用户驱动审计较专家审计更贴近真实场景，能够发现社会动态和文化背景中的偏差。
  • 集体讨论有助于补充单个用户视角的局限性，生成更综合的偏差理解。

• 实验或评估结果:

  • 参与者提交了160篇偏差医学案例，大多数与算法机制相关，并被认为可能有害。
  • 工作坊过程表明，集体讨论能够有效验证偏差，并形成更详细的补救方案。

• 局限性与未来方向:

  • 局限性包括研究领域只限于图像搜索，忽略了其他类型的算法。
  • 用户驱动审计方法可能受认知偏差影响，需要设计手段以减轻这些偏差。
  • 提出设计用户驱动审计平台的设想，平衡团队多样性并解决信息缺失问题。
  • 探讨在算法无法完全修复时，如何提高公众认知和透明度。