给我看一个“男护士”！搜索引擎用户在查询表述中如何反映性别偏见

文献标题

Show me a "Male Nurse"! How Gender Bias is Reflected in the Query Formulation of Search Engine Users

文献信息

• 主题领域: 人机交互与信息检索领域中的性别偏见分析
• 关键词: 搜索查询, 信息检索, 性别偏见, 原型效应, 用户研究

研究背景与问题

• 存在问题: 搜索引擎通过数据和算法的偏见可能会强化历史性别刻板印象和社会歧视，但用户自身的行为是否也会反映这种偏见并进一步加剧其传播，目前研究较少。
• 研究的重要性: 搜索引擎已成为日常生活中获取信息的关键工具，解决和减少性别偏见对构建公平的信息访问和社会包容至关重要。
• 研究动机与相关工作:
  • 以往研究多关注算法和数据层面的性别偏见，而对用户行为对偏见传播的作用研究不足。
  • 本研究以心理学中的原型理论为理论基础，探讨用户在性别刻板印象背景下的搜索查询行为。

解决方案

• 提出的方法: 作者通过一项针对美国和英国的在线用户研究，考察用户在搜索查询中是否体现性别偏见，并探讨教育文本是否能提高用户对偏见的认识。
• 创新之处:
  • 引入原型理论，通过“原型匹配与不匹配”的角度分析用户行为中的性别偏见。
  • 从用户行为（而非算法）的视角切入，与重建偏见行为相关联。
• 实施步骤:
  1. 准备包含性别相关或中性文本的文档，作为用户任务的材料。
  2. 要求用户生成搜索查询，以匹配这些文档内容。
  3. 分析用户生成的查询中是否提及性别，以及其表现出“原型”或“反原型”倾向。
  4. 调查个体特征（如政治倾向、性别认同等）对性别偏见行为的影响。
  5. 在主要实验中加入教育文本，探讨其对用户搜索行为的影响。

研究成果

• 具体成果:
  1. 明确证明用户在搜索查询中反映出性别偏见：在违反刻板印象的领域（如男性保育员），用户更倾向于显式提及性别。
  2. 较保守的政治观点与更高的性别偏见倾向相关；而性别和教育水平对偏见行为没有显著影响。
  3. 教育文本对用户某些群体（尤其是男性）产生了弱适度的偏见减少效果。
• 对现有解决方案的优势:
  • 相较于传统算法层面的偏见研究，本研究提供了对用户行为偏见的深刻洞察。
  • 提出了可量化衡量性别偏见的方法（如“提及差距指标”）。
• 实验或评估结果:
  • 提及差距（Mention Gap）被量化为 0.43，证明非原型性提及显著高于原型性提及。
  • 教育文本显著影响男性用户，但对女性用户表现出相反的效果。
• 局限性与未来方向:
  • 本研究仅限于传统的二元性别框架，未涵盖更复杂的性别表现。
  • 结果基于特定文化背景（英国和美国），未来应拓展至多文化语境。
  • 调查用户教育信息在搜索引擎界面中的实际整合及其效果。