通过局部解释在人类与卷积神经网络之间设计直接反馈循环

局部解释提供图像上的热图来解释卷积神经网络（CNN）如何得出其输出。由于其视觉直观性，该方法已成为诊断 CNN 最流行的可解释人工智能（XAI）方法之一。然而，通过我们的形成性研究（S1），我们捕捉到了 ML 工程师对局部解释的矛盾看法：它是构建 CNN 时不可或缺的有价值工具，但由于检测漏洞的启发式性质，这一过程令他们疲惫不堪。此外，根据诊断中发现的漏洞来引导 CNN 似乎非常具有挑战性。为了弥补这一差距，我们设计了 DeepFuse，这是第一个实现用户与 CNN 之间直接反馈循环的交互式设计，用于使用局部解释诊断和修正 CNN 的漏洞。DeepFuse 帮助 CNN 工程师系统地搜索“不合理”的局部解释，并以劳动高效的方式为那些被确定为不合理的解释标注新边界。然后，它根据给定的注释引导模型，使模型不会再犯类似错误。我们与 12 名经验丰富的 CNN 工程师进行了为期两天的研究（S2）。使用 DeepFuse，参与者制作了比当前最先进方法更准确和“合理”的模型。此外，参与者发现 DeepFuse 引导案例推理的方式可以实际改善他们当前的实践。我们提供了设计启示，解释了未来的 HCI 驱动设计如何推动我们的实践，使 XAI 驱动的洞察更具可操作性。