赋予利益相关者参与式审计预测人工智能的权利：来自终端用户和非人工智能专业决策主体的视角

文献标题

Empowering Stakeholders with Participatory Auditing of Predictive AI: Perspectives from End-Users and Decision Subjects without AI Expertise

出版信息

• 研究领域: 面向非专业人士的预测性人工智能应用参与式审计。
• 关键词: 参与式审计, 预测性人工智能, 终端用户, 决策主体, 人工智能问责, 共创研讨会, 健康应用, 人工智能透明性, 影响发现, 人工智能指标。

背景与问题

• 问题/挑战: 当前的人工智能审计实践主要由技术专家主导，缺乏工具和流程来让非专业利益相关者（如终端用户和决策主体）参与其中。这限制了对社会技术影响和潜在盲点的识别。
• 重要性: 扩大人工智能审计的范围以包括非专业人士，可以增强问责性，揭示被忽视的影响，并促进负责任的人工智能开发。
• 动机与相关研究: 尽管现有的人工智能审计工具关注技术方面（如公平性和鲁棒性），但它们对非专业人士来说难以访问。最近的研究强调了参与式审计的价值，但缺乏支持非专业人士参与的结构化工具和方法。

解决方案

• 提出的方法: 设计参与式人工智能审计流程和工具，赋能非专业人士（终端用户和决策主体）在人工智能审计中做出有意义的贡献。
• 创新点:
  1. 从非专业人士的角度展示参与式审计的价值。
  2. 定义贯穿人工智能开发各阶段的结构化参与式审计流程。
  3. 确定参与式审计人员的信息和支持需求。
  4. 提出支持参与式审计的工具设计方向。
• 流程和关键技术:
  • 针对两个与健康相关的人工智能应用（SPARRA：住院再入院风险预测，SAM：儿童依恋风格预测），与17名参与者（患者、教师和家长）开展了九场共创研讨会。
  • 基于四阶段审计流程（影响发现、标准识别、性能分析和审计沟通）设计迭代研讨会。
  • 根据参与者反馈开发并优化了参与式审计工具原型。

结果

• 具体发现:
  • 参与者识别了人工智能应用的正面和负面影响，包括现有分类法未涵盖的影响。
  • 参与者在创建影响指标时遇到困难，但强调需要工具来指导这一过程。
  • 参与者要求获取关于人工智能应用的可访问信息，包括目标、数据来源、性能和伦理考量。
• 相较基线的优势:
  • 扩展了审计范围，包括社会技术影响和早期阶段的参与。
  • 强调了支持非专业人士贯穿整个审计流程的工具需求，而非仅关注技术指标的现有工具。
• 实验/评估:
  • 研讨会涉及多样化的利益相关者群体（患者、教师、家长），并聚焦于两种透明度水平不同的人工智能应用（黑箱审计和半透明箱审计）。
  • 活动包括影响评估、指标创建和工具设计反馈。
• 局限性与未来工作:
  • 参与者数量和多样性有限，尤其是在SAM研讨会中。
  • 迭代研讨会设计阻碍了跨组结果的直接比较。
  • 未来工作包括开发和评估全面的参与式审计工具，并将方法扩展到生成式人工智能应用。

总结

本文通过提出参与式审计流程和工具设计，解决了非专业人士参与人工智能审计的挑战。通过与患者、教师和家长开展的九场共创研讨会，研究展示了参与式审计在识别被忽视影响方面的价值，并强调了支持非专业人士的可访问工具的必要性。主要发现包括早期阶段审计的重要性、正负面影响的纳入以及指标创建指导的需求。所提出的方法为赋能利益相关者参与负责任的人工智能开发奠定了基础，未来工作将聚焦于工具的实施及其在生成式人工智能系统中的应用。