自动化理由生成：一种可解释人工智能技术及其对人类感知的影响

自动化理由生成是一种实时解释生成方法，通过计算模型学习将自主智能体的内部状态和动作数据表示翻译成自然语言。使用人类解释数据进行训练可以使智能体学习生成类似人类的解释。本文以玩Frogger游戏的智能体为背景，描述了(a)如何收集解释语料库，(b)如何训练神经理由生成器生成不同风格的推理，以及(c)人们如何感知这些推理。进行了两项用户研究：第一个研究确立每种生成推理的可信度，并在信心、类人程度、充分理由和可理解性维度上定位用户感知；第二个研究进一步探索用户对生成推理的偏好，涉及对自主智能体的信心、失败沟通和意外行为。总体而言，发现在生成推理特征intended differences与用户感知差异之间存在一致性。此外，在context允许的情况下，参与者更倾向于详细的理由以形成稳定的智能体行为心理模型。