最优解释：因果图解释中人类错误的定量模型

当人工智能推理通过因果图向人类解释以进行监督时，人机界面是支持决策行动的性能瓶颈。随着解释变得更加复杂，人类解释能力下降，导致监督无效。本文贡献了一个定量模型来界定人类因果推理的界限，并展示了其在可解释AI解释中的实用性。我们的实证贡献是一项大规模用户研究（n=170），通过测量因果复杂性对人类理解的影响，量化人类理解因果解释的有限理性。我们的重要结果显示，用户是有限因果推理者：虽然他们的决策时间随每个新增因素呈线性增加（每节点0.65秒），但数据表明他们的决策错误呈指数增长。这表明用户可以有效管理的复杂性存在认知界限，并为建立认知优化复杂性的框架奠定了基础。利用这一证据，我们贡献了一个理论框架，形式化了解释复杂性对人类解释错误的影响。基于我们的实证结果，我们引入了一种新方法来系统地修剪因果解释至最优复杂性，在解释保真度损失与解释错误之间进行权衡，为最多4个相关节点和 novice 用户的定向无环图生成针对人类认知界限优化复杂性的解释。我们的工作因此将保真度-可解释性权衡量化为模型复杂性与解释错误之间的直接关系，为设计结构感知、最小化错误的可解释AI接口奠定了基础。