通过减轻边缘案例后门攻击实现普适计算的稳健联邦学习

联邦学习（FL）允许几个数据所有者无需共享训练数据即可训练联合模型。这种范式在许多普适计算系统中用于更好的隐私保护。然而，FL 容易受到投毒攻击，其中恶意参与者在模型训练时试图注入后门任务，以及模型最初训练的主要任务。最近的研究表明，FL 特别容易受到由具有异常分布外特征的数据点引入的边缘案例后门攻击。这类攻击是最难应对的，当前的 FL 防御机制通常无法处理。在本文中，我们提出了 ARMOR，一种利用对抗性学习来发现边缘案例后门攻击的防御机制。与大多数现有 FL 防御不同，ARMOR 不需要真实数据样本，并与安全聚合兼容，从而提供更好的 FL 隐私保护。ARMOR 依赖生成对抗网络（GAN）从模型更新中提取数据特征，并使用生成的样本来测试模型中潜在边缘案例后门攻击的激活。我们使用三个广泛使用的数据集和神经网络进行的实验评估表明，ARMOR 可以在不损害模型质量的情况下，以 95% 的恢复力应对边缘案例后门攻击。