我信任我的机器队友吗?从感知到决策的探讨
作者
可解释人工智能(XAI)AI 辅助决策与自动化系统人-机器人协作(HRC)软件工程师与开发者HCI 研究员
在人机协作背景下,理解人类决策背后的原因对于解读人机团队的表现至关重要。通过对不同准确率水平的系统进行实验研究,我们描述了人类信任如何与系统性能、人类感知和决策相互影响。研究表明,人类能够感知自动系统及自身的表现,并根据系统的准确率调整信任水平。研究发现70%的系统准确率是人类信任增减的临界点。我们还证明,信任可以从用户的一系列决策中推导出来,而非仅从单一决策,并与用户的感知相关联。文中提出了一个描述信任和感知如何影响人类决策的通用框架,可作为人机协作设计的未来指南。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
当前问题库还没有收录这篇论文的问题与痛点。
- 83%
《应该信任你还是信任人工智能?》——混合人机团队中领导者的信任与感知研究
CHI '26· 人-机器人协作(HRC) +2
- 80%
好奇心特质与按需解释在AI辅助决策中的影响
IUI '25· 可解释人工智能(XAI) +1
- 67%
人力资源管理中的人机交互:理解员工为何抵制工作场所的算法评估以及如何减轻负担
CHI '21· 可解释人工智能(XAI) +2
- 67%
在高风险软件工程工作中对协作自动化的信任:NASA的一个案例研究
CHI '21· 可解释人工智能(XAI) +2
- 67%
《你真的确定吗?》理解人类自我信心校准在人工智能辅助决策中的影响
CHI '24· 可解释人工智能(XAI) +1
- 67%
REX:设计以用户为中心的修复和解释以应对机器人故障
DIS '24· 可解释人工智能(XAI) +2
- 67%
通过控制屏障函数屏蔽增强学习演示算法的安全性
HRI '24· AI 辅助决策与自动化系统 +1
- 67%
采样、引导与排序:利用可解释GAN控制进行探索性搜索
IUI '24· 生成式AI(文本、图像、音乐、视频) +2
- 67%
KondoCloud:通过基于文件相似性的推荐改进云存储信息管理
UIST '21· 可解释人工智能(XAI) +2
- 67%
SQLucid:通过交互式解释将自然语言数据库查询具体化
UIST '24· 可解释人工智能(XAI) +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
一眼看懂
fact_check论文快照
dataset
来源
IUI
calendar_month
年份
2019
emoji_events
奖项
未标记奖项
group
作者
5 位作者
sell
研究子方向
可解释人工智能(XAI)、AI 辅助决策与自动化系统、人-机器人协作(HRC)
work
职业/产业
软件工程师与开发者、HCI 研究员
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文