基于示例的机器学习界面解释效果研究

机器学习算法的黒箱特性使其预测难以被终端用户理解。本论文提出并评估了视觉领域的两种基于示例的解释方法：规范性解释和比较性解释（图1），可自动从深度神经网络素描识别算法的训练集中提取示例。为研究其效果，我们将这些解释部署到 QuickDraw 平台的 1150 名用户，该平台允许用户绘制图像并查看识别器是否正确猜出所画内容。当算法未能识别绘画时，接收到规范性解释的用户认为他们对系统有了更好的理解，并认为系统具有更高的能力。然而，比较性解释并不总是能改善用户对算法的认知，这可能是因为它们有时会暴露算法的局限性并导致惊讶。这些发现表明示例可以作为解释算法行为的载体，但同时也指出了使用不同类型示例的相对优势和劣势，取决于具体目标。