在AI中做女性主义工作：来自拉丁美洲一个AI项目的反思

研究背景与问题

• 问题与挑战：

  1. 当前AI开发主要由大企业主导，缺乏多样性且集中在全球北方，尤其在全球南方地区采取了数据的“提取性逻辑”。
  2. 作者关注了性别暴力相关的司法数据这一关键数据缺失问题。
  3. 性别暴力数据透明性不足，司法系统的不信任和低上报率进一步限制了对该问题的理解与应对能力。

• 问题的重要性：

  1. 性别暴力是全球范围内广泛存在的问题，特别是在拉丁美洲中低报告率和缺乏关联数据进一步阻碍了政策制定和公众理解。
  2. 目前从全球南方，尤其是拉丁美洲出发的批判性AI开发实践实例较少，展现拉美地区内生知识具有重要意义。

• 研究动机与相关工作：

  1. 作者受到拉美地区强大的女权运动和历史悠久的社会正义运动的启发，如“Ni Una Menos”（再无一人）和绿色浪潮（Marea Verde）。
  2. 拉美地区的技术开发经常受到技术殖民主义的影响，因此需要基于区域内视角的独立方法。

解决方案

• 方法和解决方案：

  1. 作者介绍了一个拉美女权主义AI开发项目“AymurAI”。该项目开发了一种AI驱动的工具，帮助刑事法庭匿名化数据并生成性别暴力的数据集。
  2. 项目采用自然语言处理（NLP）技术，以半自动方式从法律裁决中提取内容并匿名化。

• 创新之处：

  1. 将拉丁美洲女权视角贯穿技术开发全过程，对抗技术中心化和技术解决主义（technosolutionism）。
  2. 使用协作自我民族志（Collaborative Autoethnography，CAE）方法反思AI开发过程，将理论置于实践。
  3. 强调通过透明、水平合作以伦理化的方式构建AI系统。

• 具体实施步骤和技术：

  1. 数据处理：法庭数据经过匿名化处理（法庭内部处理人员用伪造数据替代所有个人数据）。
  2. 模型开发：采用Flair框架和BiLSTM-CRF架构，并使用西班牙语语料库（BETO嵌入）。
  3. 系统设计：系统以低资源环境为目标，采用跨平台、本地化、轻量化的架构，保障在资源有限的法庭环境内运行。
  4. 伦理安全：代码开源，允许审计；开发过程完全避免真实个人数据的传输。

研究成果

• 取得的具体成果：

  1. 提供了一种工具，将性别暴力数据透明化并为政策制定提供支持。
  2. 展现了AI开发中的女权主义工作可能性，尤其是拉丁美洲的自主经验。

• 与现有解决方案的优势：

  1. 强调整个开发过程的伦理性与合作，为“技术替代人类”的策略提供抗衡方式。
  2. 提出了技术开发的地域化和差异化思考，实践与理论并重。

• 实验或评估结果：

  1. 通过协作自我民族志，揭示了团队成员的学习与挑战。
  2. 工具反响积极，被证明可减轻法官和工作人员的工作负担。

• 局限性与未来方向：

  1. 局限性：
     • 依赖有限的标注数据，这对于ML模型的性能构建提出挑战。
     • 融资主要来源于全球北方，这也凸显了拉丁美洲自身资源不足的问题。
  2. 未来方向：
     • 推动基于女权主义和社会正义的新型AI技术开发方法。
     • 探讨如何让拉丁美洲乃至全球南方的AI开发能够跳出殖民性技术逻辑，实现真正的自主知识生产。

总结

本文以“AymurAI”项目为例，展示了如何通过女权主义角度与实践反思AI系统的开发与应用。在拉美语境下，该项目不仅挑战了全球北方主导下的AI开发叙事，还为反对系统性技术提解决主义提出了新路径，引发了广泛关于伦理、公正技术平台构建的讨论。这种基于经验与合作的实践对于其他领域的研究人员与社会活动者具有重要的启发意义。