AEGIS：基于人类注意力的智能车辆系统可解释性引导

研究背景与问题

• 发现的问题或挑战：

  1. 当前自动驾驶系统（AIVs）的决策过程缺乏解释力和透明性，公众对其安全性存在质疑。
  2. 主流深度强化学习（Deep Reinforcement Learning, DRL）方法虽然能够通过试错学习适应新环境，但收敛速度慢且缺乏对场景的显式理解和推理能力。
  3. 虽然现有研究试图通过模仿驾驶员视觉注意力来改进场景理解，但这种注意力模型尚未被有效集成到自动驾驶系统中。
  4. 现有学习方法（如模仿学习、深度强化学习）对数据分布偏移（distribution shift）敏感，尤其在测试场景中表现出差强人意的泛化能力。

• 研究的重要性：

  • 提升自动驾驶系统的解释力和安全性对于社会接纳和实际部署尤为重要，尤其是在自动驾驶被频繁置于公众和法规审查下的背景下。
  • 学习如何将人类的注意力模式嵌入自动驾驶系统中，不但可以提高模型的可理解性，还能加快学习速度，从而降低开发成本。

• 研究动机与相关工作：

  • 人类驾驶员的视觉注意力是基于任务相关对象的选择性关注（如前方车辆或行人），能有效支持驾驶决策，而现有模型缺乏这种主动关注的能力。
  • 模仿学习尽管可以直接从驾驶员的行为中学习，但对异常情况的适应能力有限；而DRL虽然更适应分布偏移，但需要庞大的数据和时间来收敛。
  • 通过引入以人类注意力为指导的解释性机制，有助于解决性能与解释性之间的矛盾。

解决方案

• 提出的方法或解决方案： 作者提出了一种新框架——AEGIS（Human Attention-based Explainable Guidance for Intelligent Vehicle Systems），其核心在于利用人类视觉注意力指导强化学习模型聚焦于任务相关的关键区域。

• 创新之处：

  1. 人类注意力指导机制：将通过人类眼动数据训练的注意力模型嵌入强化学习网络，以指导其关注任务相关对象。
  2. 解释性增强：通过对比机器注意力与人类注意力，提升模型的透明性和可解释性。
  3. 大规模新数据集构建：采集了包含六大场景、超过120万帧图像的大规模VR眼动数据集。这是首个通过VR模拟器采集的高保真眼动驾驶数据集。

• 实施步骤：

  1. 数据采集与建模：利用VR驾驶模拟器采集20名参与者的眼动数据，生成一个人类注意力模型。
  2. 强化学习架构设计：
     • 建立一个基于自注意力机制的策略网络。
     • 为网络添加Kullback-Leibler散度（KL Divergence）损失，以对齐机器注意力与学得的人类注意力。
  3. 强化学习训练：
     • 初期训练中，使用从眼动数据得到的注意力分布指导网络的学习，使其聚焦于任务相关区域。
     • 在后期训练中，取消对人类注意力的强约束，让模型进一步优化其关注模式。
  4. 性能验证：在多种驾驶场景（如跟车、左转、遮挡等）中测试其泛化能力、训练效率和解释性。

• 使用的关键技术：

  1. 自注意力机制（Self-Attention）：增强模型对输入的关键特征的关注。
  2. 强化学习算法（如TD3和PPO）与辅助损失（比如KL散度）结合，以提高模型的学习效率。
  3. 预训练的轻量级U-Net架构，用于预测人类注意力。

研究成果

• 取得的具体成果：

  1. AEGIS在多种驾驶场景中，性能显著优于未集成人类注意力的强化学习基础方法（Vanilla）和基于模仿学习的基线方法（BC）。
  2. AEGIS显示出更快的收敛速度：在跟车场景中收敛速度比Vanilla提升270%，在左转场景中提升150%。
  3. 在解释性调查中，80名受访者认为AEGIS的注意力分布与决策过程更易于理解，且对其安全性更有信心。

• 与现有解决方案的优势：

  1. 泛化能力更强：AEGIS在未见过场景中的成功率衰减更低，展现了较好的鲁棒性。
  2. 训练效率提升：借助人类注意力指导，AEGIS在更少的训练时间内实现了更好的表现。
  3. 更高的解释性：机器注意力分布与人类注意力的几何相似性指标显著提升（如CC和SIM）。

• 实验或评估结果：

  1. 在跟车和左转场景中：
     • 成功率分别为62%和65%，均高于基线方法BC（46%和23%）。
     • 机器注意力对关键对象（如车辆和行人）的聚焦比率也显著提升。
  2. 在遮挡场景中，AEGIS与当前最佳模仿学习方法ReasonNet的结果接近，但提供了更多可解释的注意力分布。
  3. 定量指标表明，AEGIS的注意力分布更接近学得的人类注意力，且分布更加集中（低空间熵）。

• 局限性与未来方向：

  1. 局限性：
     • 当前研究聚焦于纵向控制（刹车与油门），缺乏对转向控制的研究。
     • 强化学习仍依赖设计的奖励函数，需改进策略学习的自动化程度。
     • 实验主要在模拟环境中进行，现实场景的泛化能力还有待进一步验证。
  2. 未来方向：
     • 扩展驾驶数据集，涵盖更多复杂场景和长时驾驶任务。
     • 将AEGIS应用于实际驾驶系统，并验证其对真实环境的适用性。
     • 开发更通用的人类行为建模方法，提升模型多任务适应能力。

通过上述研究，AEGIS表明人类注意力可以有效提升强化学习模型的性能和解释性，为自动驾驶系统的解释性设计与优化提供了重要启示，同时为人类认知与机器学习的结合探索了新的方向。