Echo：基于混响的智能音频系统快速黑盒对抗攻击

智能音频系统在我们的生活中无处不在，例如语音命令识别和说话人识别。然而，事实证明基于深度学习的智能音频系统容易受到对抗攻击。本文提出了一种利用混响（一种自然的室内声学效果）实现的物理对抗攻击方法，以实现不可感知、快速且有针对性的黑盒攻击。与现有攻击方法（在固定半径内约束对抗扰动的幅度）不同，我们生成的类似混响的扰动可以与原始语音样本自然融合。此外，通过考虑物理环境中的失真，我们可以生成更鲁棒的对抗样本，即使在无线传输过程中也能保持有效。我们在各种情况下使用两种流行的智能音频系统进行了大量实验，例如不同的房间尺寸、距离和环境噪声。结果表明，Echo 可以在数字和物理无线环境中入侵智能音频系统。