基于过度依赖率的人工智能辅助个性化决策

DOI

个性化决策辅助可以改善人机团队性能，例如适当影响用户对人工智能辅助的依赖程度。然而，人们在许多方面存在差异，具有许多隐藏的品质，使人工智能辅助适应这些隐藏品质存在困难。本研究聚焦于一个先前已被确定重要的隐藏品质：对人工智能辅助的过度依赖。我们希望（i）快速确定该隐藏品质的值，（ii）基于该值个性化人工智能辅助。在第一项研究中，我们引入了一些探针问题（其中我们知道正确答案）来确定用户是否过度依赖，发现正确选择的探针问题效果良好。在第二项研究中，我们基于用户的过度依赖品质改善了人机团队性能。探索性分析表明，用户根据先前看到的人工智能辅助会学习不同的使用策略，这表明我们在设计自适应人工智能辅助时可能需要考虑这一点。我们希望未来工作将继续探索如何推断和个性化其他重要的隐藏品质。