解释模型:一项关于解释如何影响公平性判断的实证研究
作者
可解释人工智能(XAI)AI 伦理、公平与问责算法公平与偏见AI/ML 研究员与工程师HCI 研究员Amazon Mechanical Turk 工作者
确保机器学习系统的公平性是一个以人为本的过程,它依赖于开发者、用户和公众来识别公平性问题并进行改进。为了促进这一过程,我们需要有效、无偏见且用户友好的解释,让人们能够放心地依赖。基于此,我们对四类程序生成的解释进行了实证研究,以了解它们如何影响人们对ML系统公平性的判断。通过一项涉及160多名Mechanical Turk众包工人的实验,我们表明:1) 某些解释本身被认为不够公平,而其他解释可以增强人们对算法公平性的信心;2) 不同的公平问题(如模型级公平问题与案例级公平差异)可能通过不同风格的解释更有效地暴露;3) 个体差异,包括对算法公平的先前立场和判断标准,会影响人们对不同解释风格的反应。我们最后讨论了如何提供个性化的自适应解释以支持ML系统的公平性判断。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
当前问题库还没有收录这篇论文的问题与痛点。
- 83%
超越专业知识和角色:一个框架来描述可解释机器学习的利益相关者及其需求
CHI '21· 可解释人工智能(XAI) +2
- 83%
用户驱动的价值观对齐:理解用户对AI伴侣中偏见和歧视性陈述的看法及应对策略
CHI '25· 可解释人工智能(XAI) +2
- 71%
解释对人类-AI决策公平性的影响:保护特征与代理特征
IUI '24· 可解释人工智能(XAI) +2
- 67%
每个人都想做模型工作,而不是数据工作:高风险人工智能中的数据级联
CHI '21· 可解释人工智能(XAI) +1
- 67%
走向实践中的公平性:评估公平机器学习工具包的实践者导向标准
CHI '21· AI 伦理、公平与问责 +1
- 67%
陪审团学习:将不同意见整合到机器学习模型中
CHI '22· AI 伦理、公平与问责 +1
- 67%
有能力但不道德?比较AI和人类专家在道德决策中的合作
CHI '22· AI 伦理、公平与问责 +1
- 67%
寻找Snark:数据实践中的注释者多样性
CHI '23· 可解释人工智能(XAI) +1
- 67%
文本分类中的公平性评估:机器学习从业者对个体和群体公平性的看法
CHI '23· 可解释人工智能(XAI) +1
- 67%
脱离上下文:调查“人工智能作为服务”的偏见和公平性问题
CHI '23· AI 伦理、公平与问责 +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
一眼看懂
fact_check论文快照
dataset
来源
IUI
calendar_month
年份
2019
emoji_events
奖项
未标记奖项
group
作者
6 位作者
sell
研究子方向
可解释人工智能(XAI)、AI 伦理、公平与问责、算法公平与偏见
work
职业/产业
AI/ML 研究员与工程师、HCI 研究员、Amazon Mechanical Turk 工作者
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文