“我想设计”：黑人女孩分析和构思公平负责的人工智能

文献标题

"I Would Like to Design": Black Girls Analyzing and Ideating Fair and Accountable AI

文献信息

• 主题领域: 人工智能(AI)教育、公平性与伦理学、文化响应式教学
• 关键词: AI素养，AI伦理，人工智能，黑人女孩，设计，公平性，账户责任，STEM教育

研究背景与问题

• 问题与挑战:

  • 自动化系统中的算法偏见及其对社会不平等的放大效应尤其影响到边缘化群体，例如黑人社区。
  • 美国K-12教育系统中缺少对AI社会影响与伦理的关注，特别是对代表性不足的群体如黑人女孩的关注。
  • 黑人女孩在AI技术设计领域严重缺乏参与，但却经常受到算法偏见的负面影响。

• 重要性:

  • AI系统正日益成为影响青少年生活的重要技术，从社交媒体到教育应用无处不在。
  • 识别算法偏见和公平性对于社会公正至关重要；黑人女孩的参与可能推动更公平的技术设计。

• 研究动机:

  • 填补关于黑人女孩如何理解AI公平性与伦理道德认识的研究空白。
  • 通过文化响应式计算教育增强黑人女孩的STEM身份感，使其成为“技术社会变革代理人”。

解决方案

• 研究方法:

  • 在美国东海岸一所黑人占99%的学校，与10名五、六年级黑人女孩开展三次夏令营工作坊和一节课后课程。
  • 使用活动和话题引导来探索参与者对公平性、AI的定义，并鼓励她们创造性地构思AI解决方案。
  • 数据采集以工作坊案例研究形式，涉及访谈、活动结果记录和资料分析。

• 创新之处:

  • 聚焦黑人女孩如何从其独特的视角构思公平的AI，填补了过去研究中关于算法公平性的“种族-性别交叉”差异的特定空白。
  • 利用文化响应式教育理论和学习科学方法开展教育工作坊，关注受试群体的文化和社会背景。

• 实施步骤:

  1. 引导黑人女孩通过故事和讨论活动定义和辨析“公平”。
  2. 展示具体的AI算法案例并讨论其潜在的不公平情境。
  3. 鼓励参与者设计她们未来想要的AI系统，讨论设计中可能发生的公平性问题。

研究成果

• 主要发现:

  • 大多数受访女孩把公平性定义为“平等”和“友善”，但对“公平即公正性”这一更复杂的概念理解较少。
  • 对于某些AI案例（如家庭补助推荐算法），参与者倾向于基于资源分配的平等性，而非社会经济差异的公平性。
  • 大部分女孩更信任算法决策，而非人类，从根本上认为算法可以排除种族偏见。
  • 然而，她们对算法也提出了批评，表达了对参与设计过程的强烈兴趣。

• 相较现有解决方案的优势:

  • 与普遍的技术教学不同，此研究特别强调了女孩在AI设计中的“社会参与”与领导角色，而非仅仅是学习编码技能。
  • 提供了关怀性和文化回应性方法，使学习体验成为她们个人成长、身份认同和社区文化的延伸。

• 实验及评估结果:

  • 即使学习者并未明确理解AI复杂性，他们仍创造性地设计出能够解决特定问题的AI技术。
  • 例如，有人设计了一个名为“Hypnotism Place of Kindness”的AI，以解决她们在社交或校外运动中性别不平等的问题。

• 局限性与未来方向:

  • 由于COVID-19大流行导致的样本量较小和数据不完整性问题，研究结果可能无法完全代表所有美国黑人女孩。
  • 建议未来研究优化教育活动的时间框架，同时提供额外的技术辅导以支持女孩从设计者转变为技术实现者。

总结与意义

本文展示了通过创新型社区工作坊如何引导黑人女孩批判性地思考公平AI的设计，并探索了文化因素如何塑造她们的创造力。这些研究为发展面向未被充分代表群体（如黑人女孩）的社会导向AI教育提供了重要见解。