VMS：支持预测模型意义建构与选择的交互式可视化

仅依靠性能指标比较和选择机器学习模型并不总是足够的，特别是当不同子集、特征和预测结果相对于任务的重要性可能有所不同。解释和可视化技术对于支持模型意义建构和明智决策是必要的。然而，文献综述表明，现有系统主要为模型开发者设计，且未针对目标用户进行有效性评估。为解决这一问题，本研究提出了一种交互式可视化工具VMS（用于模型意义建构和选择的可视化），供模型用户比较和选择预测模型。VMS整合了性能级、实例级和特征级分析，从多个角度评估模型。特别是一个整合了数百个特征价值与贡献的特征视图，支持在局部和全局尺度上进行模型比较。我们通过比较预测患者住院时长的模型（通过时间序列健康记录）来展示该方法，并与来自医学领域的16名参与者一起评估了原型。结果表明，VMS支持用户以多种方式对模型进行合理化，并使他们能够以小样本量选择最佳模型。用户反馈建议未来方向是将领域知识纳入模型训练，例如针对不同患者群体考虑不同的重要特征集。