可解释人工智能应用中的领域经验与专业知识：以轴承故障诊断为例的案例研究

以人为中心的人工智能可解释性（XAI）的重要性已被广泛认可，这导致在解释设计和部署过程中越来越关注用户和从业者。先前的研究已确定，具有不同领域专业知识的用户可能对可解释性有不同的需求。然而，当前的XAI研究经常将用户的实践经验与领域专业知识混为一谈，忽略了两者之间的区别：一般来说，经验是指通过主动参与或观察获得技能和洞察力，而领域专业知识则表示高水平的（通常是高度本地化和/或特定的）知识。本文使用制造业中球轴承故障诊断的示例，研究用户的实践经验和领域专业知识如何影响在高风险决策情境中考虑人工智能推荐的情况。作为人机交互（HCI）研究人员和机械工程师的跨学科团队，我们共同设计了一个基于XAI的模拟球轴承故障诊断任务。我们与多位专业人士进行了以任务为主导的访谈，围绕三种不同的决策过程展开，并使用创新的基于草图的练习来收集数据，以展示他们在机器学习推荐和人工智能解释下决策行为如何变化。我们的结果表明，经验丰富且知识渊博的从业者理解但较少依赖基于LIME的解释，而那些经验多但专业知识少的人更容易被误导。专业知识高但经验少的从业者信任XAI，但难以有效使用基于LIME的解释。基于这些观察，我们反思了我们的方法，并主张在设计和部署人工智能解释时同时考虑领域专业知识和实践经验。