自动化精度很重要,但高可控性可能更好
荣誉提名可解释人工智能(XAI)AI 辅助决策与自动化系统AI/ML 研究员与工程师HCI 研究员统计学家与数据科学家
在使用某种形式的人工智能自动化任务时,结果中的一些不准确性几乎是不可避免的。在许多情况下,用户必须决定是尝试再次使用自动化方法,还是通过可用的用户界面自行修复。我们认为,这一决定受感知的自动化准确性和任务“可控性”程度(可以多大程度和多容易地手动修改自动化结果)的影响。这种准确性和可控性之间的关系在一个由750名参与者组成的众包实验中进行了调查,实验使用了一个受控的、游戏化的任务。在高可控性的情况下,即使在非常低的准确性条件下,自我报告的满意度也保持不变,总体而言,尽管性能慢得多且不管可控性非常差,仍然观察到使用手动控制而不是自动化的强烈偏好。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
当前问题库还没有收录这篇论文的问题与痛点。
- 100%
理解准确性对机器学习模型信任的影响
CHI '19· 可解释人工智能(XAI) +1
- 100%
在实际的人工智能协作任务中比较热情和克制的人工智能建议
CHI '23· 可解释人工智能(XAI) +1
- 83%
测量和理解自动化系统的信任校准:一项关于最新技术和未来方向的综述
CHI '23· 可解释人工智能(XAI) +2
- 80%
整体是否超过其部分?AI解释对互补团队绩效的影响
CHI '21· 可解释人工智能(XAI) +1
- 80%
一种人工智能并不适合所有人:关于普通人对人工智能角色认知的聚类分析
CHI '23· 可解释人工智能(XAI) +1
- 80%
"帮助我帮助AI": 理解可解释性如何支持人机交互
CHI '23· 可解释人工智能(XAI) +1
- 80%
可编辑XAI:面向可解释属性的双向人机对齐与协同可编辑解释
CHI '26· 可解释人工智能(XAI) +1
- 80%
涌现而非固有:巴拉德式的可解释人工智能解读
CHI '26· 可解释人工智能(XAI) +1
- 80%
自动化理由生成:一种可解释人工智能技术及其对人类感知的影响
IUI '19· 可解释人工智能(XAI) +1
- 80%
基于示例的机器学习界面解释效果研究
IUI '19· 可解释人工智能(XAI) +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
一眼看懂
fact_check论文快照
dataset
来源
CHI
calendar_month
年份
2019
emoji_events
奖项
荣誉提名
group
作者
3 位作者
sell
研究子方向
可解释人工智能(XAI)、AI 辅助决策与自动化系统
work
职业/产业
AI/ML 研究员与工程师、HCI 研究员、统计学家与数据科学家
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文