涌现而非固有：巴拉德式的可解释人工智能解读

文献标题

Emergent, not Immanent: A Baradian Reading of Explainable AI

出版信息

• 主题领域: 对可解释人工智能（XAI）实践的本体-认识论批判与重构。
• 关键词: 可解释人工智能，代理实在论，衍射，可解释性，物质-话语表演，伦理，情境化知识，纠缠，人机交互，女性主义认识论。

背景与问题

• 问题 / 挑战: 主流的XAI假设解释是AI模型中预先存在的实体，等待外部观察者发现。这种观点忽视了生成解释过程中涉及的社会技术和关系性过程。
• 重要性: 将XAI重新框定为一种关系性和涌现的过程，可以解决当前方法的局限性，这些方法往往未能考虑可解释性的伦理、情境化和表演性维度。
• 动机与相关工作: 先前的研究批判了“黑箱”隐喻及其背后的实证主义假设，但尚未系统性地应用诸如Barad的代理实在论等替代本体-认识论。本论文基于女性主义认识论和人机交互研究，提出了一个理解可解释性的全新框架。

解决方案

• 提出的方法: 基于Barad的本体-认识论框架，将可解释性视为模型、人类、工具和情境纠缠中涌现的物质-话语表演。
• 创新点:
  1. 将可解释性重新定义为涌现的，而非内在的，拒绝预先存在解释的观念。
  2. 引入Barad的代理实在论和衍射作为批判和重新构想XAI实践的工具。
  3. 强调配置解释性纠缠的伦理意义，并突出责任与问责。
  4. 提出支持涌现、情境化和多元解释的XAI界面设计方向。
• 步骤和关键技术:
  1. 使用Barad的光学视角（折射、反射、衍射）批判现有的XAI方法。
  2. 分析可解释性如何通过模型、工具和观察者之间的内在互动而涌现。
  3. 开发衍射性XAI界面的推测性设计方向，并通过一个文本到音乐的案例研究进行说明。

结果

• 具体发现:
  • 主流XAI方法通常假设一种内在本体论，将解释视为预先存在且可被发现的。
  • 衍射光学揭示了解释是由人类与非人类纠缠共同构成的，并且本质上是情境化和多元的。
  • XAI中的伦理责任包括使代理切割可见，并解决解释性实践中的排除模式。
• 相较基线的优势:
  • 超越了折射和反射方法的局限性，拥抱了可解释性的关系性和涌现本质。
  • 提供了一个框架，用于解决主流XAI忽视的伦理和认识论问题。
• 实验 / 评估:
  • 使用Barad光学对XAI方法进行概念分析。
  • 针对文本到音乐界面的推测性设计案例研究，展示所提框架的实际应用。
• 局限性与未来工作:
  • 该框架主要是概念性的，缺乏实证验证。
  • 设计方向尚未完全发展为可操作的指南，也未在实际场景中进行评估。
  • 未来工作应将该框架转化为具体的设计模式，并开展实证研究。

总结

本文批判了可解释人工智能（XAI）中的主流假设，即将解释视为模型中预先存在的实体。基于Barad的代理实在论，文章将可解释性重新定义为一种涌现的、物质-话语表演，源于模型、工具和观察者的纠缠。作者强调了这些纠缠的伦理意义，并提出了支持多元、情境化和动态解释的XAI界面设计方向。尽管该框架主要是概念性的，但为推进XAI研究与实践提供了一个全新的视角，未来工作需要将所提设计原则具体化并进行评估。