切片、对话与改进：基于概念化的机器学习模型验证方法与ConceptSlicer

随着机器学习在现实应用中日益普及，机器学习模型验证对其产品化至关重要，尤其是在安全关键应用中。近年来，数据切片发现已成为验证机器学习模型的流行方法，但需要额外的元数据或跨模态嵌入才能使切片具有可解释性。本文提出ConceptSlicer，这是一个集成工作流，利用视觉概念对计算机视觉模型进行切片。该方法将图像数据集分解为可解释的视觉概念，作为切片发现过程中的元数据。我们的系统可洞察模型问题，并深入理解计算机视觉模型的优势和劣势。我们通过对八名领域专家和机器学习从业者进行访谈来评估ConceptSlicer，并根据他们的反馈微调机器学习模型。我们的研究还揭示了对大型基础模型的不同态度，促使人们思考这一技术进步带来的挑战和机遇。