这目前是杂乱无章的：考察AI/ML从业者在负责任的AI价值观共同生产过程中的挑战

文献标题

“It is currently hodgepodge”: Examining AI/ML Practitioners’ Challenges during Co-production of Responsible AI Values

文献信息

• 主题领域: 负责任的人工智能 (Responsible AI, RAI) 的价值共创方法及实践中的挑战
• 关键词: Responsible AI, Ethical AI, Value Levers, Co-production, Collaboration, FATE, Explainability, Fairness, Transparency, Accountability

研究背景与问题

1. 发现的问题或挑战

   • 负责任的人工智能（RAI）已经成为人工智能开发的重要方向，但当前的共创过程充满挑战。
   • 不同组织结构（自上而下与自下而上）对RAI价值实施产生了不利影响，尤其是在解决价值冲突时。
   • 不同角色的实践者在RAI价值的解释、合作和实施过程中的角色负担不均。
   • 特定RAI价值（如公平性或透明性）因其抽象性和缺乏明确的操作化方法而被忽视。
   • 许多RAI发展过程依赖随机和非结构化的策略。

2. 重要性

   • 随着AI技术对社会经济的影响增大，确保其潜在影响的公平性、透明性和责任性是至关重要的。
   • UNESCO等全球性组织陆续发布了AI伦理的相关建议，这些倡议对于指导新兴AI技术的使能者和开发者显得尤为关键。

3. 研究动机与相关工作

   • 研究借鉴了HCI（人机交互）领域以及伦理学领域的RAI研究，重点研究了共创过程中存在的价值紧张及矛盾。
   • 目前的相关研究主要集中在特定RAI价值的讨论（如公平性或解释性），或在组织内的局部场景中进行实验性探索。

解决方案

1. 作者提出的方法或解决方案

   • 使用共创（co-production）框架，以理解RAI价值在组织内外的协同和落实。
   • 采用定性研究方法，包括从10个不同组织中采访了23位AI开发实践者，覆盖了设计、产品管理、政策、数据科学等多样化角色。

2. 解决方案的创新之处

   • 提出了“价值杠杆”（Value Levers）的概念，即通过设计特定活动形式来促进RAI价值协作的策略。
   • 引入了“中间向外”（Middle-out）的组织策略，以平衡传统的自上而下（领导层指导）和自下而上（个人倡议）结构中的矛盾。
   • 区分并分析了RAI价值的三大共创维度：机构结构、话语讨论和价值表征。

3. 实施步骤及关键技术

   • 数据收集：采用半结构化访谈，共同探索RAI价值讨论中的挑战及策略。
   • 数据分析：通过主题分析法，对收集的数据进行编码和分类，提炼出54个最终代码。
   • 以三大调查重点（机构、话语、表征）为框架，提取各层级间的具体挑战和应对措施。

研究成果

1. 具体成果

   • 发现了RAI价值共创的主要挑战和障碍，包括抽象价值的弱化、结构上的不均衡负担、不清晰的中央支持体系等。
   • 总结了应对这些挑战的价值杠杆策略，包括RAI认证、支持性的活动（如角色扮演和场景创建）、促进冲突解决的框架（如讨论中的安全空间）。
   • 归纳了当前实践中已有策略的优势和不足。

2. 与现有方案的比较

   • 此研究细化并深化了现有文献中对RAI价值共创压力和分歧的探讨，提供了更实际和易操作的解决方案。
   • 在系统性地研究RAI实践者的真实工作环境和多维互动场景方面更为深入。

3. 实验或评估结果

   • 总结出了一套经过实践验证的策略，以帮助不同角色的AI实践者更有效地推进RAI价值的讨论与实现。
   • 对组织性压力来源和解决方案进行了定量描述，如教育类压力对个体的影响、RAI价值晚期修改对项目进度的挑战等。

4. 局限性与未来方向

   • 局限性：样本规模较小（23位受访者，覆盖10个组织），同时这项研究中的参与者主要集中在全球北方的技术公司。
   • 未来方向：建议在更广泛的行业背景和社会环境下扩展该研究，加入量化数据，以更准确评估RAI价值共创的普适性。
   • 提议构建设计工具和教育体系，帮助新兴AI从业者更好实践RAI。

总结

研究清晰地描绘了RAI价值的共创实践，揭示了技术和社会伦理结合中的复杂性。通过深入分析实践者的状态和挑战，该研究为实现真正负责任的AI开发提供了新视角，并提出了具体的提升组织结构、话语促进与代表性成果的方法。