“引擎盖之上”的 AI 包容性缺陷及三个 AI 产品团队如何发现和修复它们

虽然大量研究已表明 AI“引擎盖之下”偏见的存在（如算法、训练数据等），但“引擎盖之上”包容性偏见呢：即不成比例地排斥具有某些问题解决方法的用户的用户面 AI 产品中的障碍？最近的研究已开始报告此类偏见的存在——但它们长什么样？它们有多普遍？开发者如何发现和修复它们？为了找出答案，我们与三个 AI 产品团队进行了实地研究，以调查用户面 AI 产品中存在的独特 AI 包容性缺陷类型，以及 AI 产品团队可能如何利用现有的（非 AI 导向的）包容性设计方法来发现和修复它们。团队的工作揭示了用户面 AI 产品中独特的 6 种 AI 包容性缺陷类型的 83 个实例，涵盖 47 个缺陷实例的修复，以及一种新的 GenderMag 包容性设计方法变体 GenderMag-for-AI，这种方法在 AI 输出不一定是可信的时候特别有效地检测 AI 包容性缺陷。