解释模型:一项关于解释如何影响公平性判断的实证研究

可解释人工智能(XAI)AI 伦理、公平与问责算法公平与偏见AI/ML 研究员与工程师HCI 研究员Amazon Mechanical Turk 工作者

确保机器学习系统的公平性是一个以人为本的过程,它依赖于开发者、用户和公众来识别公平性问题并进行改进。为了促进这一过程,我们需要有效、无偏见且用户友好的解释,让人们能够放心地依赖。基于此,我们对四类程序生成的解释进行了实证研究,以了解它们如何影响人们对ML系统公平性的判断。通过一项涉及160多名Mechanical Turk众包工人的实验,我们表明:1) 某些解释本身被认为不够公平,而其他解释可以增强人们对算法公平性的信心;2) 不同的公平问题(如模型级公平问题与案例级公平差异)可能通过不同风格的解释更有效地暴露;3) 个体差异,包括对算法公平的先前立场和判断标准,会影响人们对不同解释风格的反应。我们最后讨论了如何提供个性化的自适应解释以支持ML系统的公平性判断。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/iui/2792/2019

广告推荐

学习 AI 编程到 CodeNow

一眼看懂

论文快照

fact_check
dataset
来源
IUI
calendar_month
年份
2019
emoji_events
奖项
未标记奖项
group
作者
6 位作者
sell
研究子方向
可解释人工智能(XAI)、AI 伦理、公平与问责、算法公平与偏见
work
职业/产业
AI/ML 研究员与工程师、HCI 研究员、Amazon Mechanical Turk 工作者
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文