超越“男性代码”：NLP情境中的隐性男性偏见

文献标题

Transcending the “Male Code”: Implicit Masculine Biases in NLP Contexts

文献信息

• 作者: Katie Seaborn, Shruti Chandra, Thibault Fabre
• 机构: 东京工业大学、滑铁卢大学、东京大学
• 会议: CHI 2023
• 主题领域: 人机交互、自然语言处理中的隐性性别偏见
• 关键词: 机器学习偏见, 性别偏见, 男性气质, 隐性性别化语言, 数据集, 自然语言处理, 女性主义人机交互

研究背景与问题

• 当前问题与挑战:

  • NLP 数据集中存在显性和隐性性别偏见，尤其是男性语言和男性中心主义的默认假设（“默认男性”）。
  • 现有研究多聚焦于针对女性、非二元性别人群的显性性别歧视和刻板印象，忽视了隐性男性化语言的影响。
  • 联机对话模型训练中普遍存在基于性别的语言选择和假定，引发社会和文化层面的系统性偏倚。

• 研究重要性:

  • 在语言 (NLP) 系统中嵌入的性别偏见可能影响自然语言交互方式，从而加强社会中的性别角色期望和刻板印象。
  • NLP 驱动的虚拟助手 (Virtual Assistant, VA) 被广泛应用，其语言偏见若不被识别和纠正，可能对性别平等造成长期负面影响。

• 研究动机与相关工作:

  • 现有的性别偏见研究大多仅限于二元性别框架下的显性偏见和有毒男性气质。
  • NLP 的性别偏见检测方法多聚焦于词嵌入，与实际语境相关的隐性男性化语言尚未得到充分探讨。
  • 借助开放数据集（如 MASSIVE 和 ReDial）研究隐性偏见的存在和形式对未来的去偏研究具有重要的指导意义。

解决方案

• 研究方法与分析框架:

  • 引入性别隐性偏见（implicit masculine biases）这一概念，并从“语言中的男性中心主义”与“男性默认用语模式”两方面展开分析。
  • 在 NLP 数据集（MASSIVE 和 ReDial）中检测并验证隐性性别化语言和男性语言默认化的存在。
  • 研究工具: 开发名为 AVA 的新词典，用以识别性别化隐性语言与特定语境下语言模糊性。

• 方法创新:

  • 提出针对性别隐性偏见的新分析框架，结合词频分析与语境背景，从多维度验证隐性性别化语言的存在。
  • 对已有的性别化词汇表进行批判性反思，通过 VA 语境中的歧义词（如“power”、“quiet”）开发更适用的新型性别词典（AVA）。
  • 强调在 NLP 数据集设计中识别和处理语境性问题及性别语言的复杂背景。

• 实施步骤及技术:

  • 选取两个数据集进行分析：
    • MASSIVE: 包含多语言、多场景的虚拟助手 utt 数据集；
    • ReDial: 聚焦英语会话中关于电影推荐的对话数据。
  • 对数据使用词典分析自动检测隐性偏见，结合上下文手动审查词语的性别隐含意义。
  • 提出 AVA 词典以捕捉 VA 语境中容易被误解或含有多重含义的性别化词语。

研究成果

• 具体发现:

  • 两个数据集中都存在隐性性别化语言，尤其是隐性男性化语言比例较高。
  • MASSIVE 数据集: 暗含男性中心主义（如默认以男性代词引用）但也显现性别中性趋势。
  • ReDial 数据集: 隐性男性化语言偏见较 MASSIVE 更为显著。
  • 词汇使用中，诸如“love”、“power”、“quiet”等词具有性别/语境模糊性。
  • 提出的 AVA 词典成功捕捉了上下文语义含糊的词汇列表。

• 相较现有方案的优势:

  • 在语境和语料关联方面，首次从隐性偏见出发探索语言的数据集是否反映广泛的性别气质默认。
  • 使用 AVA 提供可扩展的标注法以探索包括虚拟助手中语言使用歧视的复杂性。

• 实验与评估结果:

  • 通过 Chi-square 检验等统计方法验证了数据集中隐性性别偏见的显著性。
  • 量化结果表明，MASSIVE 和 ReDial 中隐性偏见程度小但存在结构性规律。

• 局限性与未来方向:

  • 数据集中性别研究未涵盖性少数群体，性别中性词汇的计数方法不够精确（如“They”的单复数应用难以区分）。
  • 数据集偏向特定文化与任务（如日常家庭环境或电影推荐），欠缺跨文化视角。
  • 未来需要：
    • 开发更强大的去偏算法；
    • 跨语言、跨领域拓展性别化研究；
    • 增加对性少数和文化多样性的考量和映射。

总结

该研究首次系统性分析虚拟助手相关 NLP 数据集中的隐性男性偏见，结合创新思路开发 AVA 工具应对语言模糊性。通过批判解析和数据验证，研究凸显了 NLP 在去偏开发和广泛部署中的紧迫性和复杂性。未来工作需要加强跨文化及跨性别边界的语言研究，以实现构建更加公平和包容的语言技术。