人工智能系统陈述的准确性及类比解释如何影响人类对系统的依赖

人工智能系统越来越多地被用于支持人类决策。适当遵循人工智能建议很重要。然而，根据现有文献，用户通常会对人工智能系统依赖不足或过度依赖，这会导致团队绩效不佳。在这一背景下，我们通过在贷款预测任务中对比缺乏系统信息与存在系统准确性的情况，研究陈述系统准确性的作用。我们探索人类对系统准确性的理解程度如何影响他们对人工智能系统的依赖，方法是调查用户的数量素养水平，并在首次此类主题间研究（N=281）中使用类比解释系统准确性。我们发现，使用类比解释系统陈述的准确性未能帮助用户适当依赖人工智能系统（即用户在系统正确时依赖系统，否则依赖自己的趋势）。为了消除对类比领域主观态度的影响，我们进行了一项被试内研究（N=248），每位参与者使用来自不同领域的类比解释完成任务。第二项研究的结果证实，在贷款预测任务情境下，无论个体用户差异如何，使用类比解释系统陈述的准确性不足以促进对人工智能系统的适当依赖。基于两项研究的发现，我们推断对人工智能系统的依赖不足可能是用户高估自己解决给定任务能力的结果。因此，尽管熟悉的类比可以有效提高系统陈述准确性的可理解性，但对系统准确性的更好理解并不一定会导致更好的系统依赖和团队绩效。