设计理论驱动的以用户为中心的可解释人工智能

从医疗保健到刑事司法，人工智能（AI）越来越多地支持高后果的人类决策。这激发了可解释的人工智能（XAI）领域的发展。本文旨在通过探索哲学和心理学领域的决策理论基础，加强XAI的实证应用特定调查。本文基于对这些领域的广泛回顾，提出了一个基于人类中心、决策理论驱动的XAI的概念框架。根据这个框架，我们确定了人类认知模式驱动构建XAI的需求的途径，以及XAI如何减轻常见的认知偏差。然后，我们通过设计和实现一个可解释的临床诊断工具来进行重症监护表型分析，并与临床医生进行共同设计练习，将这个框架付诸实践。之后，我们探讨了这个框架如何弥合算法生成的解释与人类决策理论之间的关系。最后，我们讨论了XAI设计和开发的含义。