理解人类直觉在带解释的人机决策中的依赖作用

AI解释常被视为改善人机决策的一种方式，但实证研究并未发现解释有效性的一致证据，反而表明当AI系统出错时，解释可能增加过度依赖。许多因素可能影响对AI支持的依赖，其中一个重要因素是决策者如何调和自己的直觉——基于先验知识、经验或模式识别用于判断的信念或启发式——与AI系统提供的信息，以决定何时推翻AI预测。本研究采用思考出声的混合方法，针对两种预测任务使用两种解释类型（基于特征和基于示例），探索决策者的直觉如何影响其对AI预测和解释的使用，最终影响其何时依赖AI的选择。结果确定了推理AI预测和解释中涉及的三种直觉类型：对任务结果的直觉、对特征的直觉和对AI局限性的直觉。在此基础上，本研究总结了决策者应用自身直觉并推翻AI预测的三条观察路径。这些路径解释了为什么（1）我们使用的基于特征的解释未改善参与者的决策结果，反而增加了对AI的过度依赖；（2）我们使用的基于示例的解释改善了决策者相对于基于特征解释的表现，并实现了互补的人机协作性能。总体而言，本研究为人机决策支持系统和解系统的进一步发展指明了方向，帮助决策者有效应用直觉以实现对AI的适当依赖。