我的车说了什么？自动驾驶汽车解释错误和驾驶环境对舒适度、依赖性、满意度和驾驶信心的影响

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 自动驾驶车辆(AV)的决策透明性对于建立用户信任至关重要，但自动驾驶车辆在提供解释时可能存在错误。
  • 此前研究表明，驾驶错误会迅速侵蚀用户对AV的信任，但关于解释错误对信任的影响研究甚少。
  • 复杂的驾驶环境和个人特质（如先前的信任和驾驶专业知识）可能会改变用户对解释错误的反应，但对此方面的研究仍然有限。

• 为什么这个问题很重要？

  • 人们对自动驾驶车辆的信任直接影响其采用和安全部署。
  • 解释错误可能会破坏用户对AV的依赖，不仅影响乘客安全，还阻碍自动驾驶技术的广泛社会接受。
  • 理解解释错误的影响对于设计可靠、令人满意的解释系统至关重要，并可促进自动驾驶车辆技术的道德与安全实施。

• 研究动机与相关工作

  • 本研究延续了之前关于可解释AI(XAI)系统的一些理论和实验背景，特别关注在高风险的非专业领域（如交通）中解释错误的影响。
  • 作者假设解释错误会像驾驶错误一样消极地影响用户对AV的感知，尤其在高复杂性或高风险的场景中。
  • 当前研究的空白是缺乏关于AV解释错误如何影响信任、依赖、满意度和驾驶信心的系统性研究。

解决方案

• 作者提出了哪些方法或解决方案？

  • 作者设计了一项模拟驾驶实验，通过展示不同准确性条件的AV解释（准确、部分错误、完全错误）来研究解释错误的影响。
  • 衡量了四个关键用户反应结果：对自动驾驶汽车的依赖舒适度、对控制权的偏好、对解释的满意度以及对自动驾驶能力的信心。

• 该解决方案的创新之处是什么？

  • 区分了“什么”（行动）和“为什么”（理由）两种解释信息的错误，并研究了它们的独立和交互效应。
  • 探讨了驾驶场景的上下文特征（驾驶难度和潜在危害）以及用户个人特质（先前的信任水平和专业知识）如何影响用户对解释错误的感知。
  • 提出了通过个性化和情景感知设计来提高AV解释接受度的可行性。

• 实施步骤是什么？使用了哪些关键技术？

  1. 实验设计：参与者观看由驾驶模拟器生成的情景视频，其中AV在特定场景中执行一致的驾驶行为，但提供不同准确性的解释。
     • 精确解释：准确描述"什么”和“为什么”。
     • 低错误解释：仅"什么"正确，但"为什么"错误。
     • 高错误解释："什么"和"为什么"均错误。
  2. 数据采集：参与者为每段视频评价其对AV的信赖感、控制权偏好、解释满意度，以及对AV驾驶能力的信心。
  3. 分析方法：采用线性混合效应（LME）模型分析误差类别、上下文特征以及个人特质对评分的影响。

研究成果

• 取得了哪些具体成果？

  • 解释错误的影响：
    • 解释错误显著降低了用户的信任、对AV控制的依赖偏好、对解释的满意度，以及对AV驾驶能力的信心。
    • 解释错误的影响与错误程度相关，“高错误”条件的负面影响大于“低错误”。
  • 驾驶能力的交叉影响：
    • 即使驾驶表现完全一致，解释错误也削弱了用户对AV驾驶能力的信心，表明用户对解释性能和驾驶能力的评价有交叉影响。
  • 上下文因素的影响：
    • 高感知风险（危害）与低舒适度、低信心直接相关，而高驾驶难度则与更高的依赖偏好有关。
    • 上下文条件（危害和难度）同时还调节了解释错误与用户反应结果之间的关系。

• 与现有解决方案相比，它有哪些优势？

  • 提供了对AV解释错误影响的系统性理解，特别是“什么”和“为什么”错误的独特作用。
  • 通过实验验证了场景上下文和个人信任对解释错误影响的调节作用，拓展了XAI设计中的个性化和情境适应设计重要性的理论基础。

• 实验或评估结果是什么？

  • 错误严重程度越高，用户的信任、满意度和对AV驾驶能力的信心下降越多。
  • 当错误可能导致潜在事故时，“什么”错误的负面影响显著增加。
  • 上下文中高危害比高驾驶难度对用户信任和依赖偏好影响更大。

• 局限性与未来方向

  • 局限性：
    • 研究基于模拟驾驶环境，可能与实际中的信任和依赖行为存在差异。
    • 实验环境的重复观看可能影响用户评分。
    • 没有测试对AV远因（如“环境背景导致的错误”）的解释。
  • 未来方向：
    • 在真实驾驶环境和更复杂的驾驶场景中测试解释错误的影响。
    • 分析更复杂解释模式（例如包括“因果关系”或情景背景的解释）对用户行为的作用。
    • 探索更广泛的人口细分和用户特性（如风险偏好）对AV互动的影响。

总结

本研究提供了关于自动驾驶车辆解释错误对用户信赖和行为影响的重要洞见。结果表明，对解释系统的设计需借鉴用户需求，尤其是在情境感知设计和个性化调整方面。这不仅有助于加速自动驾驶技术的社会接受，也为XAI在其他领域的应用提供了启发。