会话式XAI是所需的一切吗？基于会话XAI助手的人机决策研究

DOI

可解释人工智能(XAI)方法正在被提出以帮助解释和理解AI系统如何做出特定预测。受先前对话用户界面研究的启发，我们认为用对话用户界面增强现有XAI方法可以提高用户参与度并促进用户对AI系统的理解。本文探索了对话XAI界面对用户理解AI系统、信任以及对AI系统依赖的影响。与XAI仪表板相比，我们发现对话XAI界面可以为用户带来更好的AI系统理解和更高的用户信任。然而，XAI仪表板和对话XAI界面的用户都表现出明显的过度依赖。由大型语言模型(LLM)代理增强的对话放大了这种过度依赖。基于我们的研究发现，我们认为这种过度依赖的潜在原因是两种XAI界面都存在的解释深度错觉。我们的发现对于设计有效的对话XAI界面以促进适当依赖和改进人机协作具有重要意义。