HIFuzz：小型无人驾驶飞机的人机交互模糊测试

文献标题

HIFuzz: Human Interaction Fuzzing for Small Unmanned Aerial Vehicles

文献信息

• 主题领域: 小型无人机(sUAS)人机交互及安全测试
• 关键词: 人机交互、安全性、小型无人机、模糊测试、网络物理系统(CPS)、用户界面、自动驾驶、安全系统

研究背景与问题

• 发现的问题或挑战:

  • 小型无人机在高压力环境中部署时需要满足严格的安全标准，但许多事故都与人为错误相关。报告显示，与CPS中的无人机操作相关的事故中65%-85%都涉及人为错误。
  • sUAS的设计可能未能充分考虑人类操作的错误及系统交互设计的弱点，这可能在关键任务中造成危险后果。

• 重要性:

  • 人机交互设计中的失误可能导致意外飞行行为（如飞离航线或不正确的高度），影响无人机在高风险场景中的有效性和安全性。

• 研究动机与相关工作:

  • 通过系统化的测试框架可以预先检测和缓解由于人类错误输入而产生的潜在危险行为。
  • 人机设计与模糊测试已被应用于多种系统，但鲜少用于揭开人操作相关的漏洞。

解决方案

• 提出的方法或解决方案:

  • 开发了一个名为HIFuzz（Human Interaction Fuzzing）的测试框架，用于检测因人机交互问题导致的系统漏洞。
  • HIFuzz框架包括三种测试级别（L1-L3），从模拟环境中的低成本测试到真实环境中的高风险现场测试。
  • 利用“模糊测试”技术，通过随机改变操作输入和场景参数来模拟潜在的人类错误。

• 创新之处:

  • 首次将模糊测试应用于人机交互领域，拓展了此技术在CPS中的使用场景。
  • 引入了逐级递进的测试框架，从完全模拟的人机交互到真实的现场测试。
  • 提供了一种分析人类错误行为及设计改进的工具，为未来的无人机和网络物理系统设计提供指导。

• 实施步骤与关键技术:

  • 测试框架分级:
    1. L1: 在完全模拟的无危险环境中，使用代理人模拟人类操作来快速覆盖大规模测试。
    2. L2: 将代理人替换为真实的人类，在高保真模拟环境中执行选定测试，以收集系统漏洞的具体信息并获得操作员的反馈。
    3. L3: 在真实世界中进行现场测试以验证系统的漏洞是否已经被成功缓解。
  • 关键模块:
    • 像素级别测试生成器和运行器
    • 用户引导移动应用
    • 安全评估网关（G1和G2）

研究成果

• 具体成果:

  • HIFuzz框架揭示了多种关键漏洞，例如操作员失去态势感知、错误的遥控器配置、无人机模式自动切换后缺乏警示等。
  • 为无人机系统设计提供了多种可实现的缓解措施，比如通过自动化预设减少人为错误、改善用户警示系统等。

• 优势:

  • HIFuzz可以系统化揭示未知的人机交互弱点，从而指导系统设计优化。
  • 提供了逐级测试的方法，可安全地检测潜在危险并通过实际验证改进设计。

• 实验或评估结果:

  • 实验显示HIFuzz适用于揭示sUAS交互相关的系统漏洞，并有助于缓解人为操作的弱点。
  • 不同测试级别三者忠实履行了各自的独特角色：L1快速覆盖大规模；L2提供高保真度的人机测试；L3验证真实环境中的设计完整性与安全性。

• 局限性与未来方向:

  • 局限性:
    • 目前测试只能涵盖无人机的遥控角色，如“远程飞行员指挥”（RPIC），尚未全面扩展到其他角色（如安全官、任务指挥官）。
    • 模拟层次在高保真度（L2）上仍存在技术限制，未使用硬件在环（Hardware-In-The-Loop）。
  • 未来方向:
    • 扩展到涵盖多个无人机角色及更复杂的情境。
    • 增强测试工具与平台的真实性和覆盖范围。
    • 探索HIFuzz的通用性并将其应用到其他网络物理系统和自动驾驶领域。

总结与意义

HIFuzz框架为小型无人机及更广泛的CPS领域提供了一种高效的测试工具，帮助设计更加安全且鲁棒的交互系统。研究从全角度展示了模糊测试在人机交互设计中的潜力，具有显著的理论和实践价值。