谁需要在何时知道什么？：通过审视人工智能生命周期中的解释来拓展可解释人工智能（XAI）设计空间

视频

DOI

人工智能系统的可解释性（XAI）近年来在人工智能和人机交互社区获得了越来越多的关注。最近的工作引起了人们对实际应用项目中新兴可解释性需求的关注，但需要更多的探索性工作来更全面地理解这一领域。本文调查了应用人工智能项目，并报告了一项针对在大型科技和咨询公司从事人工智能项目个人的定性访谈研究。本文通过对工业人工智能项目中利益相关者范围的实证理解，阐述了这些项目展开时出现的新兴解释实践，突出了解释受众的范围（谁）以及他们的可解释性需求如何在人工智能项目生命周期中演变（何时）。我们讨论了在设计人工智能系统时采用社会技术视角的重要性，指出「人工智能生命周期」如何作为设计隐喻来推动XAI设计领域的发展。