从田野到算法：理解印度民族志学者对负责任AI的视角

文献标题

From the Field to the Algorithm: Understanding Indian Ethnographers' Perspectives on Responsible AI

出版信息

• 主题领域: 印度语境下民族志学者对负责任人工智能（RAI）的观点和贡献。
• 关键词: 负责任人工智能, 民族志, 印度, 人工智能治理, 文化基础, 权力动态, 人工智能政策, 方法创新, 跨学科合作, 人工智能伦理。

背景与问题

• 问题/挑战: 现有的负责任人工智能（RAI）框架通常以西方为中心，未能解决印度独特的社会现实，包括种姓、阶级和语言多样性等问题。能够提供关键背景洞察的民族志学者在人工智能开发和治理中基本被排除在外。
• 重要性: 排除民族志专业知识导致人工智能系统延续了伤害，并未能与印度多样化社区的实际生活相契合，从而削弱了人工智能的伦理性和有效性。
• 动机与相关工作: 尽管民族志方法已被用于研究人工智能的影响，但对民族志学者自身如何看待RAI以及他们如何为其发展做出贡献知之甚少。先前的研究批评了以西方为中心的RAI框架，但缺乏关于民族志学者角色及其被排除的障碍的实证描述。

解决方案

• 提出的方法: 通过研讨会和访谈探索印度民族志学者对RAI的看法，识别批评、方法创新以及将其整合到人工智能治理中的路径。
• 创新性:
  1. 首次实证记录印度民族志学者对RAI的理解和参与。
  2. 对印度RAI政策及其与本地社会现实的契合性进行批判性评估。
  3. 提出具体的方法学建议，将民族志专业知识嵌入人工智能开发和治理中。
  4. 识别结构性障碍及将民族志学者整合到RAI生态系统中的策略。
• 过程与关键技术:
  • 组织了一场有20位印度民族志学者参加的一日研讨会，并进行了半结构化访谈。
  • 对研讨会和访谈数据进行反思性主题分析，识别知识路径、对RAI框架的批评、方法创新以及结构性障碍。

结果

• 具体发现:
  • 知识异质性：仅有3名参与者直接参与过RAI，大多数通过研讨会或田野工作间接接触。
  • 对印度RAI政策的批评：政策被认为偏向产业，忽视种姓和阶级动态，并依赖于抽象的伦理框架（有用性、无害性、诚实性），这些框架在缺乏背景基础时难以奏效。
  • 方法创新：建议包括在模型卡中加入民族志元数据、基于田野条件的评估以及在人工监督下的人工智能辅助民族志研究。
  • 结构性障碍：民族志学者被排除在技术决策之外，面临对其方法的刻板印象，以及缺乏跨学科培训路径。
• 相较基线的优势:
  • 突出了西方中心RAI框架在印度的不足。
  • 提供了将民族志专业知识整合到人工智能治理中的可操作性见解，从批评走向具体建议。
• 实验/评估:
  • 与来自不同地区和学科的20名参与者举办研讨会。
  • 后续访谈探讨参与者的经验、批评以及对RAI中角色的设想。
  • 通过反思性主题分析识别关键主题和见解。
• 局限性与未来工作:
  • 来自农村和非学术民族志学者的代表性不足。
  • 地理集中于城市地区，未有来自印度南部的参与者。
  • 未来研究应包括纵向研究、更广泛的地理代表性，以及跨全球南方语境的比较研究。

总结

本研究探讨了印度民族志学者对负责任人工智能的看法，揭示了现有框架在解决印度社会复杂性方面的显著差距。参与者批评印度RAI政策存在产业偏向，并依赖抽象伦理原则，提出了包括民族志元数据和基于田野条件评估在内的方法创新。结构性障碍如学科壁垒和技术培训不足阻碍了民族志学者融入人工智能治理。研究提出了多层次的包容性策略，强调跨学科培训、制度改革以及将民族志专业知识视为印度伦理人工智能开发的核心要素。这些发现为创建具有语境基础、以社区为中心的RAI框架提供了可操作的路径。