《变革发生的渠道》：关于负责任AI的互人人际学习的过程、障碍和支持

研究背景与问题

• 主要问题与挑战:
  在人工智能（AI）开发中，负责任的AI（Responsible AI, RAI）的实践正在逐渐渗透，面向降低AI潜在的社会不公平影响有一些工具与资源被开发，如数据集文件（Datasheets）或模型公平性评估工具。然而，在实际应用中，因社会环境、团队内部权力动态和组织中的激励问题，一些从业者仍对提出AI潜在的负面影响感到迟疑。此外，尽管研究表明AI从业者主要通过工作中“边做边学”的方式了解RAI，但当前对RAI学习的核心人际互动学习过程（interpersonal learning）了解甚少。

• 重要性:
  RAI不仅在技术上需要可靠的工具支撑，更需要一个注重团队合作和讨论的学习环境，以帮助从业者共同发现和解决AI项目潜在的社会影响问题。未能很好地支持RAI的人际学习，可能大大削弱从业者开发负责任AI的能力，并可能导致更大规模的系统性不公或社会危害。

• 研究动机:
  作者旨在通过深入探索RAI领域的人际学习过程、阻碍因素以及支持机制，弥补当前学习理论与RAI实践之间的缺口，帮助从业者更系统性地认识RAI并将其付诸实践。三个研究问题包括：

  1. AI从业者如何通过人际互动在工作中学习RAI？
  2. RAI学习资源的设计在多大程度上支持人际学习？
  3. 哪些因素影响人际学习？这对从业者如何参与RAI有何影响？

解决方案

• 核心方法与研究设计:
  作者通过21位RAI教育者参与的10场研讨会（每场90分钟），探索RAI的人际学习过程。这些教育者具有设计或实施RAI学习材料的经验，且许多人参与了非正式的RAI教育工作。研讨会内包含焦点小组讨论、头脑图创建以及干预方案设计等活动，旨在收集教育者对RAI人际学习的理解和经验。

• 创新之处:
  这是首项系统性研究RAI领域内人际学习的论文，具体分析了RAI学习的互动性场景以及团队合作中的潜在问题，并强调了RAI学习对于人际关系和情感技能（socio-emotional skills）的高度依赖性。

• 实施步骤与技术:

  1. 数据收集：
     • 通过预调查了解参与者背景及RAI学习资源设计中的人际学习关注。
     • 焦点小组讨论，用于分享参与者在RAI学习上的经验与视角。
     • 头脑图创建，帮助参与者更有结构地探讨RAI理想状态与负面场景。
     • 干预方案设计，引导参与者制定针对RAI人际学习的教育干预措施。
  2. 数据分析：
     • 采用迭代分析方法，归纳主题，聚焦特定学习设计案例中的情感技能需求、权力动态和组织文化影响。

研究成果

• 具体成果:

  1. 确定了RAI工作中人际学习的关键过程，包括：

     • 批判性反思：团队共同审视AI开发可能对社会产生的伦理影响。
     • 集体意义构建：团队在实践中协同探索如何将高层次RAI原则转化为具体操作。
     • 尊重人际关系在RAI领域推动变化的重要性，如帮助建立联盟推动RAI变革，以及支持性环境促进同事之间的互助和学习。

  2. 确认了RAI教育的设计通常重视个人学习，而忽视了人际协作。这导致AI从业者主要依赖非正式的人际互动学习，割裂了学习资源与实际需求。

  3. 确定了阻碍RAI人际学习的主要因素：

     • 权力动态：团队内部和组织结构中的权力不均，可能压制成员提出问题。
     • 价值观紧张与知识背景差异：团队成员彼此对于AI伦理概念的理解差异，阻碍了协作与一致行动。
     • 对抗性立场：RAI团队与AI产品团队之间的对立心态，导致合作和知识共享的挑战。

• 实验与评估结果:

  • 步骤明确：通过参与者的定性反馈，作者提炼了成功RAI人际学习的积极因素，如：情感技能（积极倾听、尊重不同意见）、安全的团队文化（建立信任的关系）。
  • 实践启示：研究表明，将RAI嵌入整个团队而非某特定角色中，并通过团队学习提升人际技能可以显著促进RAI工作。

• 局限性与未来方向:

  1. 研究局限：
     • 参与者背景主要集中在美国的大型公司，且大多为女性，可能导致研究针对性较高。
     • 数据主要依赖于参与者的自述（如调查和讨论），因而可能无法完全动态地揭示RAI学习的真实场景。
  2. 未来研究方向：
     • 进行更丰富的跨领域和全球化调查，以探讨权力动态和文化差异对RAI团队合作的影响。
     • 开发和评估支持情感技能和人际关系培养的RAI教育干预措施。
     • 努力将RAI学习扩展到更小规模或初创企业的场景，并探索如何在资源受限的情况下建立完善的RAI学习体系。

总结

这项研究填补了RAI人际学习领域的重要空白，阐明了促进负责任AI开发的核心过程与挑战。研究不仅为RAI领域提供了教育实践模型，还指出了情感技能和沟通文化对RAI成功的重要影响，为未来RAI教育和干预设计提供了系统性的参考。