理解用户在辅助决策中对人工智能的依赖

视频

DOI

正确校准人类在辅助决策中对人工智能的依赖，对于实现人机协作中的互补性能至关重要。之前的大多数工作都通过用户感知和基于任务的measurements回顾性地评估用户依赖，更广泛地说是信任。在本工作中，我们探索了眼球注视与依赖之间的关系，在空间推理任务中改变任务难度和人工智能性能水平。我们的结果表明，在人工智能建议上的总注视时间百分比与用户对人工智能任务的一致性以及用户感知的依赖之间存在很强的正相关。此外，用户代理在任务简单且人工智能性能低或不一致时得以保留。我们的结果还揭示了依赖和信任之间的细微差异。我们讨论了使用眼球注视来实时评估人类对人工智能依赖的潜力，从而实现自适应人工智能辅助，以获得最佳的人机团队性能。