何时需要解释：真实自动驾驶场景下用户对解释需求建模

文献标题

When to Explain: Modeling User Need for Explanations in Real-World Autonomous Driving

出版信息

• 主题领域: 自动驾驶汽车（AV）中的以用户为中心的可解释性
• 关键词: 可解释人工智能（XAI）、自动驾驶汽车、用户需求建模、驾驶场景、人机交互、数据集创建、预测建模、SHAP分析、自适应界面、AV透明性

背景与问题

• 问题 / 挑战: 现有关于可解释人工智能（XAI）的研究通常假设用户总是需要解释，这可能导致效率低下和认知过载。目前预测解释需求的模型范围有限，依赖单一模态，且缺乏可解释性，使其不适合实际系统设计。
• 意义: 理解用户在自动驾驶汽车（AV）情境下何时需要解释，对于提升用户信任、接受度和体验，同时避免不必要的认知负担至关重要。
• 动机与相关工作: 先前的研究探讨了解释的形式、交付方式以及影响解释需求的因素（如用户特征、驾驶场景）。然而，这些研究受限于数据集的狭窄范围、缺乏全面的注释以及不可解释的模型。本论文旨在通过创建一个全面的数据集和预测模型来填补这些空白。

解决方案

• 提出的方法: 开发DriveScene，一个大规模注释的驾驶场景数据集，以及一个利用用户和场景相关因素预测解释需求的模型。
• 创新点:
  1. 创建DriveScene，包含3,327个真实驾驶场景，采用What–Why–How–Where–When框架进行注释，并提供可用于解释的资源。
  2. 开发一个可解释的预测模型（随机森林），在预测解释需求方面表现优异（F1 = 0.7188，AUC = 0.8221）。
  3. 使用SHAP进行解释性分析，全面分析影响解释需求的用户和场景相关因素。
• 过程与关键技术:
  1. 从现有数据集（如BDD100K、Argoverse）中精选并注释驾驶场景，添加详细标签（如AV动作、事件原因、天气）。
  2. 通过408名参与者的用户研究收集不同场景下的解释需求评分。
  3. 训练并评估机器学习模型（如随机森林、梯度提升），并使用特征选择方法（如SelectKBest、Boruta）。
  4. 使用SHAP分析解释特征对解释需求预测的贡献。

结果

• 具体发现:
  • 最优模型：随机森林结合SelectKBest，表现为F1 = 0.7188，准确率 = 0.7432，AUC = 0.8221。
  • 关键预测因素：感知的AV驾驶风格、事件原因、AV动作、年驾驶里程和人类驾驶风格是最具影响力的特征。
  • 动态物体（如行人、车辆）和高风险操作（如变道）增加了解释需求，而常规操作（如直行）则降低了解释需求。
• 相较基线的优势:
  • 与依赖单一模态或狭窄数据集的先前模型相比，显著提高了可解释性和预测能力。
  • 证明了结合用户和场景相关因素对于准确预测的重要性。
• 实验 / 评估:
  • 数据集：来自402名参与者的8,038个视频样本。
  • 模型：比较了逻辑回归、SVM和基于树的方法，并结合特征选择技术。
  • 评价指标：F1分数、准确率、AUC。
• 局限性与未来工作:
  • 数据集缺乏多模态输入（如LiDAR、深度信息）和更长的时间上下文。
  • 模型未捕捉时间动态或用户状态的变化。
  • 未来工作包括整合更丰富的遥测数据、测试自适应解释策略以及扩展数据集的多样性。

总结

本文提出了DriveScene，一个包含3,327个注释驾驶场景的综合数据集，以及一个用于预测用户在自动驾驶情境下何时需要解释的模型。随机森林模型表现优异（F1 = 0.7188，AUC = 0.8221），并揭示了感知的AV驾驶风格、事件原因和AV动作等因素是关键预测指标。研究结果强调了根据用户特征和场景上下文定制解释的重要性，尤其是在高风险操作和与动态物体交互的情况下。未来工作将重点提升数据集的丰富性、整合时间动态以及优化自适应解释系统。