REX:设计以用户为中心的修复和解释以应对机器人故障
可解释人工智能(XAI)AI 辅助决策与自动化系统人-机器人协作(HRC)AI/ML 研究员与工程师HCI 研究员
现实环境中的机器人会持续与多个用户互动,并遇到导致意外冲突的变化。最近的技术进步(如大语言模型、程序综合)提供了多种自动生成修复计划来解决此类冲突的方法。在这项工作中,我们通过两项用户研究了解自动修复和解释如何提升用户对机器人故障的体验。在我们的第一项在线研究(n=162)中,用户对执行自动修复和解释的机器人表达了更高的信任度、满意度和实用性。然而,我们也发现了风险因素——安全性、隐私和复杂性——需要适应性修复策略。第二项线下研究(n=24)阐明了根据风险严重程度和类型的不同修复和解释策略。我们采用基于设计的方法,将自动修复与解释作为机器人处理冲突和故障的解决方案,并针对风险因素提供适应性策略。最后,我们讨论了将这些策略纳入机器人设计以在不断变化的用户需求和环境 中实现无缝运行的启示。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
当前问题库还没有收录这篇论文的问题与痛点。
- 83%
《应该信任你还是信任人工智能?》——混合人机团队中领导者的信任与感知研究
CHI '26· 人-机器人协作(HRC) +2
- 80%
整体是否超过其部分?AI解释对互补团队绩效的影响
CHI '21· 可解释人工智能(XAI) +1
- 80%
一种人工智能并不适合所有人:关于普通人对人工智能角色认知的聚类分析
CHI '23· 可解释人工智能(XAI) +1
- 80%
"帮助我帮助AI": 理解可解释性如何支持人机交互
CHI '23· 可解释人工智能(XAI) +1
- 80%
可编辑XAI:面向可解释属性的双向人机对齐与协同可编辑解释
CHI '26· 可解释人工智能(XAI) +1
- 80%
涌现而非固有:巴拉德式的可解释人工智能解读
CHI '26· 可解释人工智能(XAI) +1
- 80%
用于RL训练机器人表现性用户控制的在线行为修改
HRI '24· AI 辅助决策与自动化系统 +1
- 80%
对齐人类与机器人表征
HRI '24· AI 辅助决策与自动化系统 +1
- 80%
自动化理由生成:一种可解释人工智能技术及其对人类感知的影响
IUI '19· 可解释人工智能(XAI) +1
- 80%
基于示例的机器学习界面解释效果研究
IUI '19· 可解释人工智能(XAI) +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
一眼看懂
fact_check论文快照
dataset
来源
DIS
calendar_month
年份
2024
emoji_events
奖项
未标记奖项
group
作者
3 位作者
sell
研究子方向
可解释人工智能(XAI)、AI 辅助决策与自动化系统、人-机器人协作(HRC)
work
职业/产业
AI/ML 研究员与工程师、HCI 研究员
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文