扩展可解释性：迈向AI系统的社会透明度

文献标题

Expanding Explainability: Towards Social Transparency in AI Systems

文献信息

• 主题领域: 可解释人工智能 (Explainable AI, XAI)
• 关键词: 可解释人工智能，社会透明性，人机交互，解释性，人工智能，社会技术，社会组织背景。

研究背景与问题

• 发现问题与挑战:
  • 当前XAI方法过于强调算法透明性，未能有效纳入人类用户对解释性的社会和组织需求。
  • 人类用户在高风险决策（如医疗、就业与刑事司法）中对AI解释的实际需求未被满足。
  • 现有的XAI技术在增强用户信任、任务性能方面效果有限，甚至可能带来潜在风险。
• 问题重要性: 随着AI技术在关键决策领域的广泛应用，无效或不完善的解释方法可能导致误解、信任失衡或错误决策。
• 研究动机: 作者指出，这种缺陷源于XAI方法的技术中心主义倾向，未能关注解释的社会情境。研究希望通过引入"社会透明性"（Social Transparency, ST）的概念，弥补当前方法的这一盲点。

解决方案

• 提出的方法或解决方案:

  • 引入"社会透明性"（ST）的概念，作为一种包含社会组织背景的解释性方法。
  • 通过设计具备ST的AI系统，探索将“谁、做了什么、何时、为何”（4W）信息可视化对用户决策与解释性的影响。

• 解决方案的创新点:

  • 将社会与组织上下文引入AI解释，超越单纯的算法透明性。
  • 根据“4W”设计具体的界面元素，通过用户间交互历史提供决策情境。
  • 使用投影式的设计方法，以概念化研究方案的形式探索社会透明性如何影响人机决策。

• 实施步骤与关键技术:

  • 使用情景设计方法（Scenario-Based Design, SBD）。
  • 基于销售情景构建设计原型，加入多个ST特性模块（如4W信息的展示）。
  • 使用访谈与用户实验收集反馈，探讨ST带来的潜在效应。
  • 依赖混合数据分析方法，包括定性分析和数据统计，以综合理解用户行为的变化和感知。

研究成果

• 取得的具体成果:

  • ST对用户的AI信任形成、决策信心和优化行动具有显著影响，可应对解释性中技术透明性不足的问题。
  • 明确ST在技术、决策、组织三个层次的可视化内容及影响：
    1. 技术层面: 提供AI过去行为轨迹和用户交互记录，校准用户对AI的信任。
    2. 决策层面: 提供对AI生成的决策上下文的社会验证，支持用户合理拒绝AI推荐。
    3. 组织层面: 提供元知识（如谁是专家）及群体规范，提高集体行动的效率。
  • 根据4W（谁、做了什么、何时、为何）的设计要素，提出了具体的界面功能建议。
  • 证明ST具有跨领域的泛化能力，尤其在销售、安全、医疗领域的需求强烈。

• 相对于现有解决方案的优势:

  • 提供上下文丰富的决策解释框架，有效克服仅依赖技术透明性的局限。
  • 将用户的自身解释性（social-validation）与算法解释结合，赋能用户构建AI的完整性理解。

• 实验和评估结果:

  • 在用户实验中，26/29名参与者调整了基于AI推荐的决策，并提升了对决策的信心。
  • 功能排名显示，“What”和“Why”信息最能帮助用户感知技术与决策背景。

• 局限性与未来方向:

  • 局限性: 当前研究基于情景设计，仅为探索性分析，尚未验证真实情境下的长期有效性；实现ST可能面临隐私和偏见等挑战。
  • 未来方向:
    • 更广泛地调查ST在其他领域的适用性。
    • 探索如何将社会数据反馈给AI模型，改进其性能和解释性。
    • 解决ST功能带来的信息过载挑战，如通过NLP工具处理评论数据。
    • 扩展对ST的长期影响（如用户信任）的研究，并开发用于规避潜在负面效应的方法。

总结

本文提出并探索了“社会透明性”（ST）的新概念，开拓XAI领域的设计空间，将解释性扩展至社会和组织环境。通过结合设计驱动的实验以及跨学科的社会技术透视，本研究朝着实现社会情境化的XAI迈出了第一步。