Silva: 使用因果关系交互式评估机器学习公平性

视频

DOI

机器学习模型存在编码其开发者或数据来源不公平性的风险。然而，评估公平性具有挑战性，因为分析师可能会误识别偏见来源，未能注意到它们，或者错误地应用指标。在本文中，我们介绍了Silva，这是一个用于交互式探索数据集或机器学习模型中潜在不公平来源的系统。Silva通过全局因果视图引导用户注意属性之间的关系，提供交互式建议，展示中间结果，并可视化指标。我们描述了Silva的实现，确定了重要的设计和技术挑战，并提供了与现有公平性优化工具相比的工具评估。