解释性帮助：利用人类能力检测自动车辆的网络攻击

研究背景与问题

• 问题与挑战

  • 自动驾驶车辆（AVs）通过先进的传感器和机器学习技术大幅提高驾驶性能，但也因其复杂的网络组件和系统结构，对网络攻击更加脆弱。
  • 当前的防御策略主要集中于提升系统和算法的抵抗力，忽视了人类监控网络攻击的潜力。
  • 尽管已有研究表明人类可以检测车辆因网络攻击而导致的异常行为，但尚未系统性地研究人类对不同类型网络攻击的检测能力，以及如何用增强显示形式来支持这一能力。

• 重要性

  • SAE L3级别或以下的商业车辆仍需人工司机监控驾驶状况，这意味着人类在网络安全方面的作用不可忽视。
  • 若能有效利用人类的检测能力，不仅可以发现系统无法识别的攻击，还能主动接管受损的车辆操作，有助于整体安全。

• 研究动机

  • 针对上述问题，本文重点研究三类人类可检测的网络攻击：交通基础设施攻击、感知模块攻击和执行模块攻击。
  • 同时，探讨两种信息显示类型（仅警报和警报+解释）如何提升驾驶员检测能力，尤其是在显示不完全可靠（例如有误警或漏警）的条件下。

解决方案

• 提出的解决方案

  • 构建了两种增强显示类型：警报显示（Alert）和带有解释的警报显示（AlertExp）。
  • 系统评估了三类网络攻击在人类可检测性及使用不同显示类型时的检测效率。

• 创新点

  • 首次提出利用人类能力的网络攻击“主动防御”策略，超越了单纯的算法或系统强化方法。
  • 开创性地验证了即便不完全准确的信息，结合解释仍能提高检测能力并缓解负面影响。
  • 提出了包括不对齐（misalignment）在内的显示条件设计，模拟了现实中信息与真实场景不完全匹配的问题。

• 实施步骤与关键技术

  • 引入了三个变量：
    1. 网络攻击的类型：交通基础设施攻击、感知模块攻击和执行模块攻击。
    2. 显示类型：无显示（Baseline）、仅警报显示（Alert）和警报+解释（AlertExp）。
    3. 警报和攻击的匹配度：警报与攻击状态可能一致（aligned）或不一致（misaligned）。
  • 通过虚拟驾驶环境设计18种驾驶场景（9种攻击场景，9种非攻击场景），利用Unreal Engine 4制作逼真的模拟视频。
  • 采用线上调查的形式进行实验，260名参与者随机分组，观看视频并回答相关问题以评估其检测性能、信任以及情境意识。

研究成果

• 取得的成果

  • 网络攻击类型的影响：
    • 执行模块攻击最难检测，且难以理解，但AlertExp显示显著缓解了这一困难。
    • 感知模块攻击最易检测，但显示类型对其贡献较少。
    • 交通基础设施攻击的检测率较弱，但事后对AV系统的信任最高，表明人们更倾向于将责任归咎于外部环境。
  • 显示类型的影响：
    • AlertExp显示显著提高了情境意识和网络攻击的检测率，同时在误警和漏警情况下能够更好地维持适当的信任。
    • Alert显示因缺乏解释，在非攻击场景中引发了不必要的恐慌和信任下降，表现甚至不如无显示（Baseline）。
  • 误匹配（misalignment）的影响：
    • 误警对非攻击场景的检测性能和信任有显著负面影响，而漏警对攻击场景的影响较小。
    • 提供解释（AlertExp）能有效缓解误警的消极影响。

• 实验与评估

  • 通过定量分析，发现情境意识、检测能力和信任受网络攻击类型及显示方式显著影响。
  • 警报+解释显示（AlertExp）的优势显著，建议实际部署时优先选择。

• 局限性与未来方向

  • 实验基于在线模拟，缺乏真实驾驶场景的验证，未来可结合仿真或真实道路测试。
  • 当前只探索了单一漏警或误警条件，未深入研究更复杂的动态信任影响（例如警报“狼来了效应”）。
  • 使用自报告的网络安全知识测量方法可能欠缺准确性，未来可开发更精细的评估工具。

总结

本文系统研究了人类检测自动驾驶车辆网络攻击的能力及其与显示类型间的关系，发现提供警报和解释的显示可最大化发挥人类潜力，提升检测性能，同时有效应对不完全可靠的运行环境。此研究为人类与自动驾驶系统协作应对网络攻击提供了新范式。