信任还是思考：认知强制功能可减少 AI 辅助决策中对 AI 的过度依赖

视频

DOI

使用 AI 驱动的决策支持工具的人经常过度依赖 AI：即使建议错误，他们也会接受 AI 的建议。向 AI 决策添加解释似乎并不能减少过度依赖，一些研究表明它甚至可能增加过度依赖。根据认知的双过程理论，我们假设人们很少对每个 AI 建议和解释进行分析处理，而是形成关于是否以及何时遵循 AI 建议的一般性启发式。基于医学决策的先前研究，我们设计了三种认知强制干预措施，迫使人们对 AI 生成的解释进行更深入的思考。我们进行了一项实验（N=199），比较了三种认知强制设计、两种简单可解释 AI 方法和无 AI 基线。结果表明，与简单的可解释 AI 方法相比，认知强制显著减少了过度依赖。然而，存在权衡：人们对最有效减少过度依赖的设计给出了最不利的主观评分。为了审核我们工作中干预产生的不平等，我们调查了不同认知需求（ 即从事费劲心智活动的动机）水平的参与者是否同样受益于干预。结果表明，平均而言，认知强制干预对认知需求较高的参与者更有益。我们的研究表明，人类认知动机调节了可解释 AI 解决方案的有效性。