现在我该怎么办?:协作机器人有效性和效率故障时的人类自发反应

人-机器人协作(HRC)可解释人工智能(XAI)AI 辅助决策与自动化系统自动驾驶工程师与测试员软件工程师与开发者AI/ML 研究员与工程师

文献标题

'What do I do now?': Spontaneous Human Responses to Robot Effectiveness and Efficiency Malfunctions in Collaborative Robotics

出版信息

  • 主题领域: 人类对协作环境中机器人故障的反应。
  • 关键词: 人机协作、机器人故障、情境意识、任务导向反应、自发行为、效率故障、效能故障、工作负荷、困惑、透明性。

背景与问题

  • 问题/挑战: 尽管已有研究关注机器人故障的系统层面(如故障检测、恢复及信任维护),但对人类在实时情况下如何自发应对故障以及这些行为是否支持或阻碍协作的了解仍然有限。
  • 重要性: 理解人类对故障的反应对于设计能够适应多样化人类行为的协作机器人至关重要,这有助于在中断期间增强协作并维持生产力。
  • 动机及相关研究: 之前的研究探讨了机器人故障期间的多模态信号(如注视、语音),但尚未系统性地将其与任务导向的适当性联系起来。本研究通过分析机器人故障期间人类的非脚本化反应,以情境意识(SA)和任务对齐为视角填补这一空白。

解决方案

  • 提出的方法: 在受试者内实验中观察65名参与者在机器人正常运行和故障(效能故障与效率故障)情况下的协作表现。
  • 创新点:
    1. 对机器人故障期间人类非脚本化语音和行为反应的实证分析。
    2. 将情境意识与任务导向的适当性联系起来,突出行为的多样性。
    3. 为协作机器人设计提供透明性、可解释性和个性化支持的设计启示。
  • 实验流程与关键技术:
    • 参与者在三个阶段完成质量控制与维修任务:正常运行(第一阶段)、故障发生(第二阶段)、恢复正常运行(第三阶段)。
    • 故障分为效能故障(如有缺陷的物品被发送至包装环节)和效率故障(如功能正常的物品被发送至维修环节)。
    • 数据包括非脚本化语音与行为反应、任务表现以及工作负荷、困惑和故障严重程度的主观评分。
    • 反应被编码为情境意识(感知、理解、预测)和任务导向的适当性(有效、无效、反效果)。

结果

  • 具体发现:
    • 在故障期间发生了167次非脚本化反应中的164次,其中效率故障引发的反应更多(126次)而效能故障较少(36次)。
    • 反应分类为89次有效、38次无效和37次反效果。
    • 效能故障被评为更严重(均值=80.56),而效率故障的严重程度较低(均值=47.05)。
    • 工作负荷在各阶段逐渐降低,但心理需求、挫败感和困惑在故障期间达到峰值。
  • 相较基线的优势:
    • 证明了故障期间情境意识几乎是普遍存在的,但任务导向的适当性显著不同。
    • 效率故障由于其可操作性引发了更多有效反应,而效能故障通常导致无行动或反效果行为。
  • 实验/评估:
    • 在受控实验室环境中对65名参与者进行实验。
    • 数据通过重复测量方差分析(ANOVA)和非脚本化反应编码进行分析。
    • 主观测量包括NASA-TLX工作负荷评分以及困惑/严重程度量表。
  • 局限性与未来工作:
    • 由于任务简化和故障脚本化,生态效度有限。
    • 仅关注首次反应,未考虑训练或长期适应。
    • 未来研究应探索更丰富的情境、更多样化的故障类型以及实时严重程度评估。

总结

本研究调查了协作任务中人类对机器人故障的非脚本化反应,分析了情境意识和任务导向的适当性。尽管参与者普遍检测到故障,但其反应从有效到反效果不等,受故障类型及其可操作性影响。效率故障引发了更多有效反应,而效能故障被认为更严重但通常导致无行动。主观评分显示故障期间心理需求、挫败感和困惑增加。这些发现强调了协作机器人需要通过提供透明性、可解释性和情境敏感支持来弥合意识与行动之间的差距。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/222754/2026

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://doi.org/10.1145/3772318.3793419
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2026
emoji_events
奖项
未标记奖项
group
作者
4 位作者
sell
研究子方向
人-机器人协作(HRC)、可解释人工智能(XAI)、AI 辅助决策与自动化系统
work
职业/产业
自动驾驶工程师与测试员、软件工程师与开发者、AI/ML 研究员与工程师
article
内容状态
已索引正文
hub
相关论文
5 篇相关论文