通过自适应个性化可解释性平衡偏好与性能

随着机器人和数字助手在现实世界中的应用，这些智能体必须能够传达其决策标准，以建立信任、改善人机协作并实现合作。尽管可解释人工智能（xAI）领域在构建实现此类通信的机制方面取得了重大进展，但这些进展通常假设一种方法最适用于每个问题（例如，用于解释急诊分诊患者决策的决策树或用于解释放射学报告的特征重要性图）。这未能认识到用户可能对交互模态有不同的体验或偏好。在这项工作中，我们在一个模拟自动驾驶汽车（AV）领域（一个对HRI越来越重要的场景）中展示了两项用户研究的设计和结果。我们研究了（1）人群对xAI的偏好水平，以及（2）提供机器人解释的不同个性化策略。我们发现xAI模式在偏好（p < 0.01）和任务性能（p < 0.05）方面存在显著差异。我们还观察到参与者的偏好并不总是与其任务性能一致，这促使我们开发了一种平衡两者的自适应个性化策略。我们表明，这种策略带来了显著的性能提升（p < 0.05），最后讨论了我们的发现和对未来xAI工作的启示。