选择性解释：利用人类输入对齐可解释人工智能

近年来，尽管已开发出大量可解释人工智能(XAI)算法，但这些算法因与人类产生和消费解释的方式存在显著差距而受到批评。因此，当前的XAI技术往往难以使用且缺乏有效性。本研究通过使AI解释具有选择性——人类解释的基本属性——根据与接收者偏好一致的内容选择性地呈现模型原因，来缩小这些差距。我们提出一个通过利用小样本上的人类输入来生成选择性解释的通用框架。该框架开启了一个丰富的设计空间，考虑不同的选择性目标、输入类型等。作为展示，我们使用决策支持任务来探索基于决策者认为与决策任务相关的选择性解释。我们进行了两项实验研究来检验基于所提出框架的三种可能范式：在研究1中，我们请参与者提供基于批评或开放式输入来生成选择性解释（自我输入）。在研究2中，我们向参与者展示基于类似用户小组（注释者）输入的选择性解释。我们的实验表明，选择性解释有望减少对AI的过度依赖并改善决策结果和对AI的主观感知，但也描绘了一幅细微的画面，将其中一些积极效果归因于提供自身输入以增强AI解释的机会。总体而言，我们的工作提出了一个灵感来源于人类沟通行为的新型XAI框架，并展示了其鼓励未来工作使AI解释更具人类兼容性的潜力。