通过用户界面解释决策算法：帮助非专家利益相关者的策略

越来越多的算法被用于在社会中做出重要决策。然而，这些算法通常理解不佳，这可能会降低透明度并引发负面情绪。在这项研究中，我们寻求学习解释界面的设计原则，这些界面可以传达决策算法的工作原理，以帮助组织向利益相关者解释其决策，或支持用户的“解释权”。我们进行了一项在线实验，其中199名参与者使用不同的解释界面来了解用于大学录取决策的算法。我们测量了用户对算法的客观和自我报告的理解。我们的结果表明，交互式解释和“白盒”解释（即展示算法内部工作原理的解释）都可以提高用户的理解。尽管交互式方法在提高理解方面更有效，但它需要更多的时间。令人惊讶的是，我们还发现用户对算法决策的信任不受解释界面或他们对算法理解程度的影响。