以人为中心的工具在医疗决策过程中应对不完整算法

机器学习（ML）越来越多地被用于医学决策中的图像检索系统。ML的一个应用是从过去的病人中检索出视觉上相似的医学图像（例如，活检组织）作为参考，以便在为新病人做出医疗决策时使用。然而，没有任何算法能够完美地捕捉到专家对每个案例的理想相似性概念：从算法上确定为相似的图像可能对医生的具体诊断需求没有医学相关性。在本文中，我们确定了病理学家在使用深度学习算法检索相似图像时的需求，并开发了工具，使用户能够实时应对搜索算法，传达在不同时间点哪些类型的相似性最重要。在两次对病理学家的评估中，我们发现这些工具提高了找到的图像的诊断效用，并增加了用户对算法的信任。这些工具比传统的界面更受欢迎，且没有降低诊断准确性。我们还观察到，用户在使用细化工具时采用了新的策略，重新利用它们来测试和理解底层算法，并区分ML错误和他们自己的错误。总的来说，这些发现为未来专家决策的人-ML协作系统提供了信息。