在负责任的人工智能工具包中整合价值敏感设计的指南

文献标题

Integrating Value Sensitive Design in Responsible AI Toolkits

文献信息

• 主题领域: 人机交互、伦理AI、设计框架
• 关键词: 伦理AI, 责任AI, 价值敏感设计, 工具包设计, 人本设计, 协作, 学习支持

研究背景与问题

• 问题与挑战:
  • 当前责任AI工具包在实践中如何有效地体现伦理价值尚不清楚。
  • 现有工具包是否能够成功地使伦理框架（例如价值敏感设计，VSD）在设计过程中得到有效采纳。
• 重要性: AI系统的责任设计能够减少伦理学相关的风险并增加公平性与透明性，但如何在实践工具包中体现这些价值仍然复杂且困难。
• 研究目标:
  1. 探讨VSD价值如何与RAI价值相一致。
  2. 调查现有RAI工具包如何在促进协作和学习的同时体现VSD价值。

解决方案

• 方法:
  • 组织四次工作坊（共17位AI早期职业研究者参与），探讨VSD与RAI工具包的设计联结。
  • 映射VSD与RAI价值并分析工具包的协作与学习支持功能。
• 创新点:
  • 提出了一组六条实用设计指南，旨在将VSD价值嵌入RAI工具包的开发中。
  • 跨学科视角下将工具包的开放性与协作性加以改进。

实施步骤与技术

1. 回顾已有的RAI工具包并筛选适合研究的工具包（如Nokia AI设计工具包和MIT AI盲点工具包）。
2. 将这些工具包与VSD价值进行映射，分析共同点与差异。
3. 设计工作坊环节，包括价值映射和合作式头脑风暴活动。
4. 收集参与者的反馈，通过主题分析法对结果进行定性分析。

研究成果

• 具体成果:

  • VSD与RAI价值的映射一致性: RAI价值（如公平性、可解释性）与VSD价值间高度一致，但仍对“透明性”和“问责性”存在定义差异。
  • 工具包设计价值辨析: Nokia工具包更注重协作和开放式创意，而MIT工具包似乎更适合单人使用及教育。
  • 工具包效能比较: 使用Nokia工具包比MIT工具包生成更多的想法，且能够覆盖更广的主题类别。
  • 工具包设计特性分析: 提供具体案例或引导性问题能够提升参与者的学习与责任意识。

• 优势:

  • Nokia AI设计工具包能够促进团队协作和开放式讨论，支持各阶段的迭代开发。
  • MIT盲点工具包提供案例与建议，增强学习效果。

• 实验评估结果:

  • Nokia工具包在协作与多角度思考中表现更好，而MIT工具包在信息教育方面更具优势。

• 局限与未来方向:

  • 局限性包括参与者样本较小及工具包选择有限。
  • 未来工作可以扩展样本范围，测试不同文化背景下RAI与VSD的实践一致性。
  • 探索更多形式和媒介对工具包设计的影响。

六条设计指南

1. 开放式提示支持协作: 以开放性内容设计引发团队讨论与创意。
2. 案例与场景提升同理心: 提供具体案例帮助用户理解不同利益相关者的视角。
3. 支持多阶段迭代: 设计工具包适应AI系统开发的不同阶段，支持长期改进。
4. 响应性与反馈设计: 根据用户输入提供定制化的建议和反思支持。
5. 可共享和实际的结果输出: 将结果生成专业易于共享的格式，帮助团队形成共识。
6. 减少认知负担的隐性价值嵌入: 工具包设计中隐性支持伦理价值，减少用户手动考虑压力。

这篇论文为责任AI工具包的改进提供了重要启示，通过整合价值敏感设计原则，为更全面、更实践导向的工具包设计铺平了道路。