XAutoML：用于理解和验证自动化机器学习的可视化分析工具

在过去的十年中，各种自动化机器学习（AutoML）系统已被提出，以最少的交互构建端到端机器学习（ML）管道。尽管这种自动合成的ML管道能够达到具有竞争力的性能，但近期研究表明，由于AutoML系统缺乏透明性和对所构建ML管道的解释不足，用户不信任由AutoML构建的模型。在一项需求分析研究中，我们收集了来自不同专业、具有不同ML专业程度的36位领域专家、数据科学家和AutoML研究人员的详细信息化需求。我们提出了XAutoML，这是一个用于解释任意AutoML优化程序和由AutoML构建的ML管道的交互式可视化分析工具。XAutoML将交互式可视化与可解释人工智能（XAI）的成熟技术相结合，使完整的AutoML过程透明且可解释。通过将XAutoML与JupyterLab集成，有经验的用户可以根据从XAutoML提取的信息扩展可视化分析。我们使用需求分析中相同的多元用户组验证了我们的方法。所有参与者都能够从XAutoML中提取有用信息，从而显著提高对AutoML产生的ML管道和AutoML优化本身的理解。