解释可减少决策过程中对人工智能系统的过度依赖

先前工作发现了一个威胁人机决策团队性能的弹性现象：过度依赖，即当人工智能错误时人们仍同意其意见。令人惊讶的是，与仅提供预测相比，人工智能提供解释并不会减少过度依赖。有些人认为过度依赖源于认知偏见或校准不当的信任，归因于人类认知的必然性。相比之下，本研究认为人们策略性地选择是否参与人工智能解释，并通过实证表明在某些情况下人工智能解释可以减少过度依赖。为此，我们在成本效益框架中形式化了这种策略选择，权衡参与任务的成本和收益与依赖人工智能的成本和收益。我们在迷宫任务中操纵成本和收益，参与者与模拟人工智能合作寻找迷宫出口。通过5项研究（N=731），发现任务难度（研究1）、解释难度（研究2、3）和货币补偿等收益（研究4）影响过度依赖。最后，研究5采用认知努力折扣范式量化不同解释的效用，进一步支持我们的框架。结果表明，文献中发现的一些无效部分可能是由于解释未能充分降低验证人工智能预测的成本。