为非西方语境设计符合社会文化的人工智能系统以服务于社会公益

文献标题

Designing Culturally Aligned AI Systems For Social Good in Non-Western Contexts

出版信息

• 主题领域: 面向社会公益的人工智能系统设计，聚焦于非西方的高风险领域。
• 关键词: 社会公益人工智能、文化适配、非西方语境、高风险领域、语言适配、人类参与、机构能力、安全机制、社会技术系统。

背景与问题

• 问题/挑战: 现有的人工智能系统往往无法应对非西方语境中的社会文化、语言和制度复杂性，导致偏见、缺乏文化意识以及在高风险领域中效果不佳。
• 重要性: 填补这些空白对于确保人工智能部署的公平性、安全性和有效性至关重要，从而在教育、医疗、农业和法律等欠发达地区产生积极影响。
• 动机与相关工作: 先前研究强调了人工智能系统再现偏见、缺乏文化适配以及强化殖民知识体系的风险。尽管已有呼吁开发文化响应型人工智能，但在实践中如何设计和实施此类系统的实证研究仍然有限。本研究通过分析真实案例部署，试图弥补这些研究空白。

解决方案

• 提出的方法: 本研究识别了六个跨领域因素（语言、机构、安全性、任务、终端用户人口统计、领域——LISTED）以及三个更高层次的影响因素（社会文化、制度、技术），这些因素共同塑造了文化适配型人工智能系统的设计与部署。
• 创新点:
  1. 对八个真实世界人工智能部署案例的实证分析，涵盖七个国家和18种语言。
  2. 提出一个框架，详细描述了六个因素和三个总体影响因素，适用于非西方语境中的人工智能系统设计。
  3. 为实践者提供了12条可操作的指导方针，用于构建文化适配且具有社会效益的人工智能系统。
• 实施过程与关键技术:
  • 对17位人工智能开发者和领域专家进行半结构化访谈。
  • 对项目文档和报告进行二次研究。
  • 通过主题分析识别人工智能适配中的模式和挑战。
  • 检查适配策略，包括上下文内和权重内方法。

研究结果

• 具体发现:
  • 六个因素（LISTED）始终影响人工智能系统设计：语言适配、制度对齐、安全机制、任务特定约束、终端用户人口统计考虑以及领域特定知识。
  • 人类劳动在确保文化适配、安全性和语境相关性方面起到了核心作用。
  • 适配策略从轻量级（如提示工程）到资源密集型（如微调、数据收集）不等。
• 相较基线的优势:
  • 基于本地语言、制度规则和领域特定知识的系统在可用性、信任度和采用率方面优于通用人工智能模型。
  • 人类参与的工作流程有效降低了风险，并确保了高风险场景中的可靠性。
• 实验/评估:
  • 分析了教育、医疗、农业和法律领域的八个项目。
  • 部署规模从试点（<500用户）到大规模（约35万用户）不等。
  • 评估指标包括用户反馈、任务特定性能和安全结果。
• 局限性与未来工作:
  • 对人类参与系统的长期可持续性和可扩展性关注有限。
  • 需要进一步探索超本地文化差异及其在人工智能系统中的整合。
  • 未来研究应解决基础设施差异问题，并将指导方针扩展到其他领域和语境。

总结

本文通过分析八个真实世界的部署案例，探讨了如何在非西方高风险语境中设计用于社会公益的人工智能系统。研究识别了六个关键因素（LISTED）和三个总体影响因素（社会文化、制度、技术），这些因素共同塑造了系统设计与部署。研究强调了人类劳动的重要作用，人工智能开发者与领域专家的协作，以及轻量级和资源密集型适配策略的结合。研究结果被总结为12条可操作的指导方针，支持实践者构建文化适配、公平且响应迅速的人工智能系统。这些见解适用于多个领域，为在欠发达地区创建有效的人工智能解决方案提供了路线图。