再次犯错（但我知道了）：人机协作中机器人失败的一致性与意识

文献标题

Oops, I Did It Again (But I Know It): Robot Failure Consistency and Awareness in Human-Robot Collaboration

出版信息

• 主题领域: 人机交互，重点研究失败模式、信任和感知智能。
• 关键词: 人机协作、机器人失败、信任修复、失败意识、感知智能、失败严重性、同质与异质失败、信任动态、期望违背、协作机器人。

背景与问题

• 问题/挑战: 机器人反复失败可能会削弱用户的信任和对其智能的感知，但失败顺序、严重性和机器人意识的影响尚未得到充分理解。
• 重要性: 理解这些动态对于设计能够在不可避免的错误中维持用户信任和协作效率的机器人至关重要。
• 动机与相关研究: 先前的研究探讨了单次失败、信任修复策略和失败严重性，但在理解失败顺序和机器人意识如何交互影响用户长期感知方面仍存在空白。本研究基于期望违背理论（EVT）和信任校准模型，旨在填补这些空白。

解决方案

• 提出的方法: 通过一项控制实验研究失败顺序（同质与异质）、失败严重性和机器人意识（无意识、部分意识、完全意识）对信任和感知智能的影响，任务为协作完成七巧板拼图。
• 创新点:
  1. 分析同质与异质失败顺序如何影响信任和感知智能。
  2. 探讨机器人意识水平（无意识、部分意识、完全意识）在不同失败类型（冻结、规划、抓取）中的作用。
  3. 研究失败严重性如何与先前失败交互影响用户感知。
• 实验流程与关键技术:
  • 参与者（N=54）与机器人协作完成六个七巧板拼图任务，过程中遇到三个预设失败。
  • 失败类型包括冻结（暂时暂停）、规划（错误放置）和抓取（物体拾取失败）。
  • 机器人意识被分为三个水平：无意识、部分意识（承认但不纠正）和完全意识（承认并纠正）。
  • 使用验证量表测量信任和感知智能，并通过开放性问题收集定性反馈。

结果

• 具体发现:
  • 与同质失败顺序相比，异质失败顺序导致感知智能的更大下降，尤其是在第二次失败后。
  • 对于抓取和规划失败，当机器人表现出意识（部分或完全）时，信任和感知智能更高，但对于冻结失败，意识没有影响。
  • 严重失败紧随轻微失败之后会导致信任急剧下降，这与期望违背理论一致。
• 相较基线的优势:
  • 对于明显错误（抓取和规划），具有部分或完全意识的机器人在维持信任和感知智能方面优于无意识机器人。
  • 同质失败顺序对感知智能的负面影响小于异质失败顺序。
• 实验/评估:
  • 包含54名参与者的混合设计实验，任务为协作完成七巧板拼图。
  • 使用累积链接混合模型（CLMMs）进行定量分析，并对参与者反馈进行定性主题分析。
  • 测量指标包括信任（7点Likert量表）和感知智能（5点Likert量表）。
• 局限性与未来工作:
  • 控制实验室环境可能无法推广到复杂性和安全性更高的真实场景。
  • 失败类型有限且预设的意识行为限制了生态效度。
  • 未来研究应探索自适应的实时信任修复策略、更长期的交互以及多主体场景。

总结

本研究探讨了失败顺序、严重性和机器人意识如何影响人机协作中的信任和感知智能。结果表明，异质失败顺序以及轻微失败后紧随的严重失败比同质失败或一致严重性更容易削弱信任和感知智能。机器人在明显错误中表现出的意识能够改善用户感知，但对冻结等细微错误无影响。这些发现强调了基于顺序感知和情境敏感的信任修复策略的重要性，机器人需要根据失败类型、严重性和顺序调整其响应，以维持有效的协作。