色域：一项设计探针以理解数据科学家如何理解机器学习模型

没有好的模型和正确的解释工具，数据科学家可能会基于隐藏的偏见、虚假的相关性和错误的概括做出决策。这导致了对模型可解释性的呼吁。然而，可解释性的概念仍然模糊不清，以至于研究人员和工具设计者缺乏将可解释性纳入模型和相关工具的操作指南。通过与专家机器学习研究人员和实践者的迭代设计过程，我们设计了一个可视分析系统Gamut，以探索交互界面如何更好地支持模型解释。利用Gamut作为探测工具，我们调查了专业数据科学家为什么以及如何解释模型，以及界面功能如何帮助数据科学家回答关于模型可解释性的问题。我们的调查表明，可解释性不是一个单一的概念：数据科学家解释模型的原因不同，并为特定受众量身定制解释，通常在简单性和完整性之间的竞争性关注中取得平衡。参与者还要求在他们的工作中使用Gamut，突显了其帮助数据科学家理解自己数据的潜力。