质疑人工智能：为可解释人工智能用户体验的设计实践提供信息

视频

DOI

对可解释人工智能（XAI）的兴趣激增导致了该主题的大量算法工作。虽然许多人认识到在人工智能系统中整合可解释性特征的必要性，但如何解决现实世界中用户对理解人工智能的需求仍然是一个开放性问题。通过采访20位从事各种人工智能产品工作的用户体验和设计实践者，我们试图识别当前XAI算法工作与创建可解释人工智能产品的实践之间的差距。为此，我们开发了一个算法驱动的XAI问题库，其中用户对可解释性的需求被表示为用户可能对人工智能提出的问题原型，并将其用作研究探针。我们的工作为XAI的设计空间提供了见解，为支持该领域的设计实践提供了信息，并确定了未来XAI工作的机会。我们还提供了一个扩展的XAI问题库，并讨论了如何使用它来创建以用户为中心的XAI。