AIMEE：规则如何支持人工智能开发者解释和编辑模型的探索性研究

在现实应用中部署机器学习模型时，初始模型开发包括数据科学家对模型结果和行为的密切分析。然而，模型训练后可能需要用新数据重新训练或更新以遵守新规则或法规。这提出了两个挑战：首先，如何在重新训练前后传达模型如何做出决策；其次，如何支持模型编辑以考虑新需求。为满足这些需求，我们构建了AIMEE（人工智能模型探索器和编辑器），该工具通过提供使用规则的交互式方法来解释、可视化和修改模型决策边界，从而解决这些挑战。规则应该通过提供抽象层使模型构建者受益，以理解和操作模型，并减少直接修改数据行的需要。为评估情况是否如此，我们进行了两项用户研究，共有23名参与者，以评估AIMEE的基于规则的方法在模型可解释性和编辑方面的效果。我们发现参与者正确解释规则，并报告他们对规则如何有益（以及无益）的看法、规则如何支持协作的方式，以及工具的可用性评估。