快速与慢速决策：认知偏差在AI辅助决策中的作用

视频

DOI

多方面的研究旨在弥合人工智能与人类决策者之间的差距，在AI辅助决策中，人类是人工智能模型预测的消费者和高风险应用中的最终决策者。然而，人们的感知和理解经常被认知偏差所扭曲，如确认偏差、锚定偏差、可得性偏差等。在这项工作中，我们利用认知科学领域的知识来解释人类-AI协作决策设置中的认知偏差，并减轻其对协作性能的负面影响。为此，我们对认知偏差进行了数学建模，并提供了一个通用框架，研究人员和实践者可以通过该框架理解认知偏差与人类-AI准确性之间的相互作用。然后，我们专门关注锚定偏差，这是人类-AI协作中常见的 一种偏差。我们实施了一种基于时间的去锚策略，并进行了我们的第一个用户实验，验证了其在人类-AI协作决策中的有效性。基于这一结果，我们设计了一种资源受限设置下的时间分配策略，在某些假设下实现最优人类-AI协作。然后，我们进行了第二个用户实验，表明我们的时间分配策略结合解释可以有效地去除人类的锚定，并在人工智能模型置信度低且不正确时改善协作性能。