设计有效的训练数据集解释：信息深度和渐进式披露的影响

AI 透明度对于培养用户信任和接受至关重要，但通过解释实现透明度存在重大设计挑战，特别是在应提供多少细节方面。例如，深度解释可以传达准确和全面的信息，但也可能使用户应接不暇。本文在训练数据集解释的背景下考虑了这一重要的设计权衡，训练数据集解释描述了用于训练 AI 的数据，并且在传达什么和多少信息方面与大多数以模型为中心的解释不同。具体而言，我们研究了训练数据集解释中的信息深度以及渐进式披露的使用如何影响用户对 AI 系统的理解（通过他们对系统的批评评估）、他们的系统评估和他们的认知负荷。32名参与者参与的研究结果表明，向用户提供训练数据集的全面信息是有益的。详细解释不仅增强了感知信任、公平性和理解，尽管增加了认知负荷，但也更受参与者青睐。虽然渐进式披露未能有效减轻认知负荷，但它改善了用户的学习感知。这些发现表明，有效的透明度不是来自最小化细节，而是来自拥抱细节，因为参与者始终将清晰和完整置于简洁之上，即使以更高的认知负荷为代价。