不完美可解释人工智能对人类-人工智能决策的影响

DOI

可解释性技术正在快速发展，以改善各种协作工作设置中的人类-人工智能决策。因此，先前研究通过调查适当依赖和任务表现来评估决策者如何与不完美的人工智能合作，旨在设计更加以人为本的计算机支持协作工具。已经提出了几种以人为本的可解释人工智能（XAI）技术，希望改善决策者与人工智能的合作；然而，这些技术基于先前研究的发现，而这些发现主要关注错误人工智能建议的影响。很少有研究承认即使人工智能建议正确，解释也可能是错误的。因此，了解不完美XAI如何影响人类-人工智能决策至关重要。在这项工作中，我们贡献了一个包含136名参与者的健壮的混合方法用户研究，以评估错误的解释如何影响人类在鸟类物种识别任务中的决策行为，同时考虑他们的专业水平和解释的断言程度。我们的发现揭示了不完美XAI和专业水平对人类依赖人工智能以及人类-人工智能团队表现的影响。我们还讨论了解释如何在人类-人工智能协作中欺骗决策者。因此，我们阐明了不完美XAI在计算机支持协作工作领域的影响，并为人类-人工智能协作系统的设计者提供了指南。