基于解耦线索特定显著性的机器学习鲁棒关联性解释

DOI

概念性解释帮助用户理解模型预测与有意义线索之间的关系。然而，在嘈杂的真实世界条件下，数据扰动导致解释扭曲和偏离。我们假设这些腐败影响特定线索而非全部，因此解耦它们可能有助于减少模型对退化线索的依赖。对于情感语音识别的解释应用，我们提出 RobustRexNet，使用解耦和离散化的显著图来解释单独的语音线索（如响度、音调），以提高抗噪声能力。建模评估表明，RobustRexNet 在噪声和隐私保护失真情况下改善了模型性能和解释的可靠性。用户研究表明，鲁棒解释更好地符合人类直觉，并在噪声下改进了用户情感标签。这项工作为鲁棒可解释AI做出了贡献，提高了用户在真实世界条件下的信任度。