人工智能中的性别刻板印象的范围审查

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 人们经常对人工智能（AI）应用性别刻板印象，而 AI 的设计经常强化这些刻板印象，在新兴技术中延续传统的性别理念。
  • 当前关于 AI 性别刻板印象的研究存在概念模糊和不一致的问题，缺乏系统性综述以明确实际影响。

• 为什么这个问题很重要？

  • 将性别刻板印象融入 AI 设计可能会加剧性别不平等并反映过时的社会价值观和权力结构，阻碍技术的社会进步。
  • 随着 AI 技术（如生成式 AI）越来越广泛应用，该技术可能会通过其训练数据的内在偏见进一步强化这些刻板印象。

• 研究动机与相关工作

  • 该研究试图填补现有综述缺乏的领域，提供一个更全面的视角来理解 AI 性别刻板印象问题。
  • 作者强调研究的目标是明确性别刻板印象在 AI 中的具体表现形式，以及如何促进负责任的 AI 设计以减少这些有害影响。

解决方案

• 作者提出了哪些方法或解决方案？

  • 作者采用了规范性文献综述方法，对过去 20 年中关于人机交互（HCI）、人机关系（HRI）以及相关社会科学领域的性别刻板印象研究进行总结和分类。
  • 研究开发了基于特质和领域的性别刻板印象分类法，以为未来的研究提供结构化框架。

• 该解决方案的创新之处是什么？

  • 该研究是首个系统回顾 AI 性别刻板印象调查的文献综述，并明确了大多数 AI 性别刻板印象的操作性方法。
  • 提供了两个核心分类：基于特质的刻板印象（如沟通风格、能力和代理性）以及基于领域的刻板印象（如语境、任务分配或专业领域）。

• 实施步骤是什么？使用了哪些关键技术？

  • 使用 PRISMA 文献筛选和体系化数据提取方法对 445 篇研究进行了筛选，最终筛选出 73 篇相关文献。
  • 针对性别刻板印象的表现形式及其操作化方法，设计了框架以解释性别刻板印象的多维机制。

研究成果

• 取得了哪些具体成果？

  • 明确了 AI 性别刻板印象的两大类型：
    1. 基于特质的刻板印象：如男性化的代理性与能力，女性化的关怀与温暖。
    2. 基于领域的刻板印象：如女性 AI 被认为更适合家庭、服务和护理领域，男性 AI 被认为更适合机械、技术和 STEM（科学、技术、工程、数学）领域。
  • 研究发现，删除 AI 性别信息并不能完全消除性别刻板印象，因为隐含的性别线索仍可能激发偏见。

• 与现有解决方案相比，它有哪些优势？

  • 提供了一个全面的框架，能够系统性地揭示性别刻板印象如何在不同背景下呈现，帮助未来研究和设计时更精准地处理这些问题。
  • 文献综述不仅回顾了实验性研究，还探索了性别刻板印象在现实场景中独特表现及其动态。

• 实验或评估结果是什么？

  • 多项实验发现，不论显性或隐性线索，当 AI 与性别刻板印象相符时体验更佳；但当其挑战刻板印象时，一些用户会产生反感和质疑。
  • 实验表明，某些设计元素如与性别相关的声音或名字可能激发特定的刻板印象。
  • 显性挑战性别刻板印象（如通过语音内容）能有效减少对某些类型 AI 的偏见，但效果取决于用户的性别和文化背景。

• 局限性与未来方向

  • 局限性:

    • 当前几乎所有研究发生于全球北方社会，缺乏对全球南方文化背景的考察与洞察。
    • 实验主要集中在个体或双主体的交互，较少涉及团队或群体人机协作场景中的刻板印象。
    • 关于非二元性别的 AI 设计和刻板印象的研究严重缺乏。

  • 未来方向:

    • 倡导更多实地研究和定性方法以捕捉真实且复杂的性别刻板印象特征。
    • 探索团队交互场景中 AI 的性别刻板印象，以及其在工作场所等领域的进一步应用。
    • 设计更多非二元和性别模糊的 AI 系统以促进多样化和包容性的技术发展，同时测试用户的反应及刻板印象。
    • 开发专门的测量工具，以系统化评估 AI 性别相关的刻板印象。

以上是基于论文所进行的全面分析及总结，符合学术规定和领域前沿标准。