当人类与算法相遇:智能日常应用中用户报告的问题
作者
可解释人工智能(XAI)算法透明度与可审计性AI/ML 研究员与工程师HCI 研究员
智能系统的复杂性质促使人们在交互过程中为用户提供支持,例如通过解释。然而,目前尚缺乏关于用户在日常使用这类系统时面临的具体问题的实证证据。本文研究了用户报告的此类问题:我们使用情感分析和主题建模分析了Google Play商店中三款应用(Facebook、Netflix和Google Maps)的35,448条用户评论,揭示了与应用算法决策相关的交互问题。我们通过后续在线调查(N=286)补充了用户的应对和支持策略数据。具体而言,我们发现了与内容、算法、用户选择和反馈相关的问题和策略。我们讨论了设计用户支持的相应启示,特别强调了用户控制和对输出(而非过程)解释的重要性。我们的工作因此贡献了实证证据,以促进对用户日常与智能系统交互问题的理解。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
当前问题库还没有收录这篇论文的问题与痛点。
- 100%
操纵和测量模型可解释性
CHI '21· 可解释人工智能(XAI) +1
- 100%
共享兴趣:测量人机对齐以识别模型行为中的重复模式
CHI '22· 可解释人工智能(XAI) +1
- 100%
去偏CAM以减轻图像扰动并提供机器学习的忠实可视化解释
CHI '22· 可解释人工智能(XAI) +1
- 100%
渐进披露:设计有效透明性的实证方法
IUI '19· 可解释人工智能(XAI) +1
- 80%
解释作为支持算法透明度的机制
CHI '18· 可解释人工智能(XAI) +1
- 80%
可解释、可问责和可理解系统的趋势与轨迹:一项HCI研究议程
CHI '18· 可解释人工智能(XAI) +2
- 80%
分歧去卷积:将机器学习性能指标与现实接轨
CHI '21· 可解释人工智能(XAI) +1
- 80%
HILL:用于大型语言模型的幻觉识别器
CHI '24· 可解释人工智能(XAI) +2
- 75%
从哲学到界面:一种受Achinstein解释理论启发的解释方法和工具
IUI '21· 可解释人工智能(XAI) +1
- 75%
视觉、文本或混合:用户体验对不同解释效果的影响
IUI '21· 可解释人工智能(XAI) +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
一眼看懂
fact_check论文快照
dataset
来源
IUI
calendar_month
年份
2019
emoji_events
奖项
未标记奖项
group
作者
5 位作者
sell
研究子方向
可解释人工智能(XAI)、算法透明度与可审计性
work
职业/产业
AI/ML 研究员与工程师、HCI 研究员
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文