他们只关心向我们展示轮椅：文本到图像AI模型中的残疾人士形象

文献标题

“They only care to show us the wheelchair”: Disability Representation in Text-to-Image AI Models

文献信息

• 主题领域: 人机交互、生成式人工智能与社会公正
• 关键词: 残疾表征, 生成式AI, 算法性偏见, 人工智能伦理, 文本到图像模型, 社会正义

研究背景与问题

• 作者发现了哪些问题或挑战？ 文中指出，当前文本到图像（T2I）生成式AI模型在呈现残疾群体时表现出显著的偏见，通常采用简化、刻板或负面的表征方式。这些表征包括过度聚焦于轮椅、悲伤及孤独的情绪、缺乏年龄、性别和种族的多样性等。

• 为什么这个问题很重要？ 残疾群体长期以来在主流媒体和社会表征中处于弱势地位，这不仅强化了社会刻板印象，而且可能对残疾人士的心理健康和社会融合造成负面影响。此外，生成式AI技术在社会中的普及增加了错误表征被进一步传播和采用的风险，对残疾群体而言不利。

• 研究动机与相关工作 作者立足于先前研究发现，即AI存在系统性偏见，并且包括文本到图像生成在内的新兴技术也会继承这一问题。然而，关于残疾表征的研究较少，且更集中于语言模型。本研究意图填补这一数据空缺，通过系统性地调查T2I对残疾群体的影响，为生成式AI设定更高的表征标准。

解决方案

• 作者提出了哪些方法或解决方案？

1. 调查当前文本到图像模型如何表征残疾人群，包括偏见的表现形式和原因。
2. 分析图像生成技术中的系统失误及改善建议，包括更准确的模型训练数据集、符合多样性的输出机制和增强用户界面。

• 该解决方案的创新之处是什么？ 研究采用了焦点小组和定性分析的创新方法，邀请25名残疾人士参与，为AI表征方法提供社区中心化的反馈。作者还提出从模型设计到图像生成过程的多维改进建议，同时关注可能出现的伦理冲突。

• 实施步骤是什么？使用了哪些关键技术？

1. 通过焦点小组收集用户对AI生成图像的反应，共进行了八组焦点研究。
2. 针对不同残疾类型和文化背景生成图像，分析其潜在错误及偏见。
3. 利用定性内容分析方法对焦点小组数据进行编码，提取参与者提出的具体表征建议。

研究成果

• 取得了哪些具体成果？

1. 识别了文本到图像模型在残疾表征中反复出现的几个刻板印象，包括轮椅过度表征、不准确或过时的辅助技术呈现等。
2. 总结了残疾人士对关于改善表征的需求，包括希望人工智能输出更多样性、更具象化的人物情感及场景设定。

• 与现有解决方案相比，它有哪些优势？ 与以往依赖自动化评估的研究不同，本研究通过社区参与获取了更具深度的反馈，展示了生成式AI领域中关系残疾表征的实际未解决问题，同时提出了详细的技术与设计建议。

• 实验或评估结果是什么？ 研究表明，当前模型会系统性地生成不准确的负面表征，对残疾群体的多样化需求响应不足。参与者表示AI需要更准确地理解和触达真实世界的残疾体验。

• 局限性与未来方向

1. 研究仅对北美地区的残疾群体进行调查，可能缺乏全球视角。
2. 文本到图像生成式AI技术仍处于不断发展中，模型改进可能无法立即解决数据中本质的偏见问题。 未来研究方向包括：

1. 开发跨文化、多语言的残疾表征数据集；
2. 探讨基于价值导向的AI设计，在表征上兼顾真实、尊重与多样性；
3. 开展全局的社区参与研究，涵盖更多地区和文化背景的残疾群体。

推荐改进方案

图像特性改进

• 增加图像中展示的种族、性别和年龄多样性。
• 避免对辅助技术的错误或过时呈现，同时注重表现其日常应用场景。

用户界面的建议

• 提供生成图像的详细解释功能，帮助用户理解图像中潜在的表征目的。
• 合并图像元数据以标注与残疾相关语句，既帮助隐性残疾得到更好表征，也避免图像中过于强调对残疾群体的限制性特征。

系统开发

• 任用残疾人士参与模型评估与开发过程。
• 开展基于社区信任的模型设计实践，包括收集内容丰富且具多样性的训练数据，特别针对辅助技术和残疾文化符号。

总结

本文针对生成式AI模型中残疾表征的限制性点明了多个漏洞，同时提供了一系列创新性建议，从技术和伦理角度推动生成式AI技术的公平性。对于未来制定系统公平性指标和设计流程具有重要参考价值。