自然语言处理的“殖民冲动”：孟加拉语情感分析工具及其基于身份的偏见的审核

文献标题

The “Colonial Impulse” of Natural Language Processing: An Audit of Bengali Sentiment Analysis Tools and Their Identity-based Biases

文献信息

• 主题领域: 自然语言处理（NLP）、算法偏见、后殖民研究、人机交互（HCI）
• 关键词: 算法审计, 情感分析工具, 偏见, 身份, 殖民性

研究背景与问题

• 发现的问题或挑战:

  • 自然语言处理工具可能重现殖民偏见和价值观，但仍缺乏对这些偏见作用机制的研究。
  • 语言资源和研究的显著不平等现象：如英语的资源远多于孟加拉语，尽管这两种语言的使用者数量相当。
  • 非英语NLP系统上的偏见及其影响未被深入研究。

• 重要性:

  • 情感分析工具广泛应用于实践中，如内容审核和公共舆情分析，但其中的身份偏见可能会强化既有社会不公。
  • 鉴于南亚孟加拉文化在殖民历史和宗教、性别、民族的复杂交织影响下，该区域需要特定的研究框架。

• 研究动机:

  • 探讨现存的孟加拉语情感分析工具是否以及如何表现出基于性别、宗教和民族的偏见。
  • 理解这些偏见如何与工具开发者的人口背景相关。

解决方案

• 提出的解决方法:

  • 通过算法审计方法，对Python Package Index（PyPI）和GitHub中的孟加拉语情感分析工具进行系统性审查，检查其是否存在基于身份的偏见。
  • 利用现有的Bengali Identity Bias Evaluation Dataset（BIBED）数据集，该数据集包含许多能够显式或隐式表达身份的句子。

• 创新点:

  • 将后殖民研究与算法审计相结合，分析情感分析工具如何反映殖民性社会结构。
  • 引入隐式和显式身份表达这一双重层次的分析方法，探讨工具对社会复杂偏好的适应程度。
  • 对同一工具的多个维度（如性别、宗教和民族）偏见进行量化评估。

• 实施步骤与技术:

  1. 工具选择: 基于功能性和文档齐备性，从PyPI和GitHub中筛选了13个情感分析工具。
  2. 数据集构建: 使用BIBED数据集中的句子，测试工具的输出结果。
  3. 算法审计: 将相同句子（通过改变量关键身份词）输入不同工具，对其情感得分进行统计分析。
  4. 统计分析: 基于Kruskal-Wallis检验、Mann-Whitney U检验等，研究得分差异是否显著。
  5. 偏见与开发者背景的关联: 使用公布开发者背景信息，探索其是否与工具表现的偏见有关。

研究成果

• 具体成果:

  • 不一致性: 不同工具对相同语句的情感评分存在显著差异。这表明，工具对情感的测定缺乏普适性。
  • 隐式与显式表达差异: 明确表述身份的句子（如直接提及“孟加拉国”）通常被赋予更负面情感，而使用区域方言的隐式表达得分较高。
  • 身份偏见:
    • 38%的工具偏向女性身份，30%偏向男性身份。
    • 30%的工具对印度教身份有偏向，38%偏向穆斯林身份。
    • 77%的工具对孟加拉国身份有偏向，仅15%偏向印度国籍。
  • 开发者背景相关性: 尽管未观察到开发者背景和工具偏见之间的直接关系，但开发者的民族和宗教身份单一，表明可能存在开发视角的局限性。

• 与现有解决方案的优势:

  • 第一次对孟加拉语情感分析工具进行了系统性的算法审计。
  • 首次探讨显式与隐式身份表达之间的情感分析差异。
  • 将南亚殖民历史情境引入技术偏见研究，拓展了算法偏见的研究范围。

• 局限性与未来方向:

  • 身份表述的二元性: 本研究仅考虑了男性-女性、印度教-穆斯林、孟加拉国-印度这三组二元分类，未包含更广泛的群体（如跨性别者、其他少数宗教）。
  • 交叉偏见分析: 未探索多重交叉身份（如女性穆斯林、跨性别印度人）的偏见机制。
  • 未来工作:
    • 使用定性方法（如访谈）深挖工具对细分类别身份的处理模式。
    • 研究不同数据集如何对工具偏见构建产生影响。
    • 扩展至其他低资源语言，与其他社会维度（如种姓、性取向）相关的抽样偏见分析。

该研究突出展示了孟加拉语情感分析工具的局限性及其可能带来的社会影响，同时也提供了一种将后殖民视角纳入技术研究的方法。