可解释主动学习(XAL) : 面向机器教师的AI解释作为人机界面

机器学习(ML)技术的广泛采用创造了对能够训练ML模型的人日益增长的需求。一些人倡导使用"机器教师"一词来指代将领域知识注入ML模型的角色。这种"教学"视角强调通过高效的学习算法和周到的人机界面设计来支持机器教师的生产力和心理健康。一个有前途的学习范式是主动学习(AL)，通过该范式，模型智能地选择实例向机器教师查询标签，从而可以大大减少标注工作量。然而，在当前AL设置中，人机界面仍然是最小化且不透明的。缺乏实证研究进一步阻碍了我们为AL算法开发教师友好的界面。在这项工作中，我们开始将AI解释作为机器教学人机界面的核心元素来考虑。当人类学生学习时，展示自己的推理并征询教师的反馈是一种常见模式。当ML模型学习并仍然犯错时，教师应该能够理解其错误背后的推理。当模型成熟时，教师应该能够识别其进展，以便信任并对其教学结果充满信心。针对这一愿景，我们提出了一种新的可解释主动学习(XAL)范式，通过将可解释AI(XAI)领域的技术引入AL设置。我们进行了一项实证研究，比较了XAL与传统AL和协同学习（提供模型预测但不提供解释）的模型学习结果、反馈内容和体验。我们的研究显示了AI解释作为机器教学界面的好处——支持信任校准并启用丰富的教学反馈形式，以及潜在的缺点——模型判断的锚定效应和额外的认知工作量。我们的研究还揭示了影响机器教师接受AI解释的重要个体因素，包括任务知识、AI经验和认知需求。通过反思结果，我们建议了XAL的未来方向和设计启示，更广泛地包括通过AI解释进行机器教学。