COGAM：在机器学习模型解释中测量和调节认知负荷

可解释的机器学习模型通过以简单性换取准确性来使解释更具可读性和易于理解。借鉴图形理解中的认知心理学理论，我们将可读性形式化为视觉认知块，以衡量和调节解释可视化中的认知负荷。我们提出了Cognitive-GAM（COGAM），通过结合表达能力强的非线性广义加性模型（GAM）和更简单的稀疏线性模型来生成具有所需认知负荷和准确性的解释。我们在用户研究中用阅读时间校准了视觉认知块，在模拟研究中对四个数据集的认知负荷和准确性的权衡进行了表征，并通过用户对COGAM与基线进行了评估。我们发现，COGAM可以在不降低准确性的情况下减少认知负荷，和/或在不增加认知负荷的情况下提高准确性。我们的框架和认知负荷的实证测量工具将使对可解释人工智能的人类可解释性进行更严格的评估成为可能。