人们想知道关于人工智能（AI）什么？回答终端用户问题以解释自动驾驶汽车（AV）决策的重要性

提高终端用户对人工智能（AI）驱动的自动驾驶汽车（AV）所做决策的理解可以提高AV的利用率和接受度。然而，当前的解释机制主要帮助AI研究人员和工程师调试和监控他们的AI系统，可能无法解决终端用户（如乘客）在各种场景下关于AV的具体问题。在本文中，我们进行了两项用户研究，以调查潜在AV乘客在乘坐AV时可能提出的问题，并评估这些问题答案如何提高他们对AI驱动的AV决策的理解。我们的最初形成性研究确定了现有解释机制不易解决的关于自动驾驶中AI的一系列问题。我们的第二项研究表明，与简单地观察AV决策相比，交互式基于文本的解释有效地提高了参与者对AV决策的理解。这些发现为设计交互提供了信息，这些交互激励终端用户参与并询问AI驱动的AV决策背后的推理。