好奇心特质与按需解释在AI辅助决策中的影响

DOI

以往关于可解释人工智能（XAI）在AI辅助决策中的研究显示，在提高用户准确性同时减轻过度依赖AI方面效果不一。一个有前景但尚未充分探索的策略是通过显式交互按需提供AI辅助。初步结果表明，高认知需求（NFC）的用户从这种范式中获益更多，尽管类似认知指标所预测的影响需要进一步研究。此外，由训练数据的描述性统计数据（全局数据中心）与模型中心解释组成的混合方法已显示出在减轻过度依赖同时提高健康领域专家和非专业用户准确性方面的潜力。然而，这种方法在其他领域的影响仍然未知。 本文研究了四种按需解释类型——局部模型中心、全局数据中心、局部/全局模型中心和混合——对用户准确性和过度依赖的影响。我们还评估了认知需求（NFC）、认知好奇心（EC）和好奇心与探索量表-II（CEI-II）的变化如何影响这些指标，并探索了这些特质之间的相关性。 我们的发现表明，按需解释类型之间在提高准确性或减轻过度依赖方面没有显著差异。低和高NFC、EC和CEI-II个体也同样如此，尽管我们发现这些心理测量指标之间存在中度正相关。事后分析显示，人格特质和按需干预对其他决策行为的影响比解释类型更大。请求按需辅助的用户表现出更低的自信心，表明寻求数据或AI支持可能会削弱自我信心。奇怪的是，NFC和CEI-II得分较高的个体表现出更高的自信心，而CEI-II得分较高的个体请求AI辅助的频率较低。 我们通过为设计考虑个体认知特质和用户自信心的AI系统提供实践指南，为扩展XAI辅助决策的知识做出了贡献，帮助提高其在决策任务中的有效性。