伦理不是中立的：从黑人青年的角度理解伦理和负责任的人工智能设计

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 生成性AI的兴起加剧了对历史上被边缘化群体的伤害，包括增加的监控、AI引发的种族歧视以及算法不平等。
  • 在设计和部署AI系统时，种族中立和回避种族的伦理框架忽略了AI中反黑人逻辑的核心问题，这导致了更加深重的种族压迫。
  • 教育体系中，尤其是服务于黑人、棕色人种和贫困青少年的学校中，AI工具的使用经常未经充分测试或验证，使这些群体面临更大的风险，缺乏公平的受益机会。

• 为什么这个问题很重要？

  • AI通过反映历史上的种族主义和反黑人逻辑，不仅未能实现技术的“人性化”和“正义性”，反而进一步扩大了种族不平等的鸿沟。
  • 在AI设计和教育过程中，未能从黑人社区的角度考量技术伦理和责任，正在加剧这种不公平现象。
  • 将被边缘化社区的声音和经验纳入AI技术的定义和设计中是实现社会和技术正义的关键。

• 研究动机与相关工作

  • 作者受到现有伦理AI框架(例如“公平性、透明性、责任性”等概念)的启发，但指出这些框架经常忽略对种族化历史和权力关系的关注。
  • 作者旨在通过黑人青少年的独特视角调查伦理和责任AI的定义，并提出一种历史植根的革命性技术设计方法。

解决方案

• 作者提出了哪些方法或解决方案？

  • 以黑人青少年的视角探索种族、种族主义和反黑人主义与伦理AI的关系。
  • 通过5周的批判种族技术课程，学生被鼓励构想反种族主义的技术，并从实际社会背景中找到问题的解决方案。
  • 提出一套基于正义、包容性和文化敏感性的伦理AI设计原则。

• 该解决方案的创新之处是什么？

  • 强调“从下而上”的方法，将技术设计与黑人社区特定的文化、历史和现实问题紧密结合。
  • 提倡种族意识和文化敏感性的设计优先于传统种族中立的方法。
  • 为未来AI工具的设计者、研究者和教育者提供了一种历史和社会问题嵌入的伦理框架，为他们的决策提供指导。

• 实施步骤是什么？使用了哪些关键技术？

  • 通过学生创造的三个项目案例研究，展示如何将黑人青少年的见解融入技术设计中。
  • 方法包括批判种族理论的教学模块、小组讨论和设计项目(如面向黑人儿童的学习机器人和面向黑人母亲的在线帮助平台)。
  • 学生设计的技术既考虑了用户工具关系，也关注了AI的更广泛社会影响(如生态问题、剥削性劳工问题、隐私保护)。

研究成果

• 取得了哪些具体成果？

  • 作者提出了六大设计原则：正义导向设计、利用体验智慧、深度历史嵌入、社区中心化设计、基于文化且具有种族意识的设计，以及考虑全球生态与人类及非人类参与者的设计。
  • 三个学生创造的技术原型(“Jordan: Reimagining a Black Moxie”机器人、“BlackMom.com”母亲帮助平台、“Blindyrs”防偏见警察眼镜)提供了对伦理AI设计的深刻洞察。

• 与现有解决方案相比，它有哪些优势？

  • 以种族意识和文化敏感性为核心，超越了传统的种族中立方法的局限性。
  • 创新地结合历史、社会和技术多维度，展示了如何从被边缘化群体的视角重新定义AI。
  • 提供可操作的指导原则，可以转化为AI研发的具体实践。

• 实验或评估结果是什么？

  • 参与学生在设计过程中认识到种族历史的重要性，并成功开发了与黑人社区相关的技术解决方案。
  • 通过定性分析学生的想法和讨论，得出了对负责任和伦理AI的深刻理解。

• 局限性与未来方向

  • 局限性包括样本规模较小，仅包含加州一个夏季项目的学生数据，由此可能对更广泛的地区或社会背景的普适性有限。
  • 将来的研究可以进一步扩展至更多样化的参与者群体，探索针对不同文化和社会背景的伦理AI原则。
  • 研究应进一步加强关于白人中心主义和理性主义对技术影响的批判性分析，并增强教学中全球生态和剥削性劳工问题的讨论。

本文直面了AI开发中的长期性结构性问题，通过案例分析与理论结合，为伦理和负责任AI设计提供了原创性见解。同时，强调了让被边缘化群体主动发声的重要性与潜在的科技设计转型价值。