解释技术与表示方式对用户理解与信任的影响

局部可解释性是可解释人工智能的一个重要子领域，旨在通过提供模型输入与输出之间潜在关系的描述，为个别用例解释人工智能模型的决策。虽然机器学习社区在提高解释的准确性和完整性方面取得了实质性进展，但这些解释很少由最终用户评估。本文评估了各种解释和表示技术对用户理解与信任的影响。我们通过两个不同领域的用户研究，评估了三种常用的局部解释技术——特征归因、基于规则的和反事实——并探索了它们的视觉表示——图形或文本——如何影响用户的理解与信任。我们的结果表明，解释技术的选择主要影响用户理解，而图形表示影响用户信任。