负责任AI工具评估实践的范围研究：迈向有效性评估的步骤

文献标题

A Scoping Study of Evaluation Practices for Responsible AI Tools: Steps Towards Effectiveness Evaluations

文献信息

• 主题领域: 负责AI的评价方法，特别是工具的有效性评估
• 关键词: 负责AI、公平性、伦理性、工具包、评估、有用性

研究背景与问题

• 作者发现了哪些问题或挑战？
  • AI 发展过程中可能加剧社会不公（如算法歧视）的潜力推动了“负责任AI工具”（RAI工具）的出现。这些工具旨在减少AI系统的道德和社会风险。然而，当前以“负责任AI”为主题的领域对工具有效性的评价较为欠缺。
  • 尽管现有评价方法着重工具的“可用性”，却很少评估工具在实践中对AI开发过程的实际改变，特别是它们是否有效达成了设计目标。
• 为什么这个问题很重要？
  • RAI工具是否能有效地在实际应用中实现负责任的AI开发目标，直接影响着AI系统的公平性、透明性和问责性。
  • 随着政策制定者及技术实践者采用这些工具的增多，评估工具的效果也变得至关重要。
• 研究动机与相关工作
  • 当前对于RAI工具的相关研究大多集中于工具覆盖的开发管道阶段，或者工具的用户体验，但少有工作检视如何系统地评估工具的实际效果。
  • 此研究的核心问题在于：现有文献中有哪些关于RAI工具效果评估的实践？

解决方案

• 作者提出了哪些方法或解决方案？
  • 调查与分析了37篇涉及RAI工具的文献，通过归纳和主题分析的方法，总结目前的评估实践以及现有方法的局限。
  • 借鉴教育和医疗领域的介入评估最佳实践，为RAI工具的有效性评估设计框架，并提出下一步研发的系统性建议。
• 该解决方案的创新之处是什么？
  • 强调从“可用性”转向对“有效性”进行评价，这是一个更高层次但也更复杂的评估目标。
  • 提出明确“工具有效性”的操作化定义，即工具与实际开发结果之间因果联系的建立。
  • 将长期来自教育和医疗等领域的评价方法引入AI伦理工具领域，创新性地跨学科扩展评估方法论。
• 实施步骤是什么？使用了哪些关键技术？
  • 文献收集与筛选：通过系统搜索和排除标准提取有效RAI工具文献样本。
  • 数据分析：采用归纳的主题分析方法，归纳出RAI工具评估的模式和现有方法的差距。
  • 提出实践建议：结合跨学科的经验设计RAI工具评价框架的初步设想，重点在于内外部效度的权衡与改良。

研究成果

• 取得了哪些具体成果？
  • 确立当前RAI工具评价的关注点往往集中于“可用性”，而对有效性和实践影响的评价存在大幅欠缺。
  • 提出四个现存评估实践中的关键问题：关注于工具的单个用户可用性、缺乏对工具对实际团队和组织的影响分析、未能真实反映“真实世界”环境，以及对社会多样性和文化背景的评估缺失。
  • 提供了指导评估RAI工具有效性的框架建议，并总结出三项领域层面的建议，包括开发一致的有效性指标、强化跨文化参与，以及为工具评估建立专业规范和标准。
• 与现有解决方案相比，它有哪些优势？
  • 现有解决方案主要局限在小规模的可用性研究，而本文的工作强调了从可用性到有效性的评估转移。
  • 提出了一种理论框架，将RAI工具的设计目标、使用动机和实际效果建立因果联系，这是现有文献较少覆盖的层面。
• 实验或评估结果是什么？
  • 文献回顾显示，仅少数研究关注RAI工具如何改变开发实践，大多数评估设计集中探讨个体用户与工具的交互，而非工具对整体社会或AI开发管道的实际改变。
• 局限性与未来方向
  • 局限性：研究主要建立在公开文献的分析上，缺乏对非公开评估实践的观察。此外，样本采样可能不足以反映全球多样性。
  • 未来方向：呼吁跨学科、跨领域的更多合作，在社会科学和软件工程等领域探索新的评估方法，推动组织层面的规范化发展。