利用交互式可解释人工智能副驾驶增强临床决策：一项针对肾脏病学和产科临床医生的真实世界用户研究

文献标题

Augmenting Clinical Decision-Making with an Interactive and Interpretable AI Copilot: A Real-World User Study with Clinicians in Nephrology and Obstetrics

出版信息

• 主题领域: 临床决策中的人机协作
• 关键词: 临床决策支持, 可解释性人工智能, 人机交互, 肾脏病学, 产科, 认知负荷, 对人工智能的信任, 纵向电子健康记录数据, 基于LLM的推荐, 交互式可视化

背景与问题

• 问题/挑战: 尽管人工智能在医学任务中的准确性取得了显著进展，但由于缺乏透明性和与临床医生推理过程的契合，其在临床实践中的应用仍然有限。目前的系统通常作为不透明的预测工具，忽略了临床决策过程中迭代和基于证据的特点。
• 重要性: 弥合医学人工智能的“最后一公里”差距，可以优化诊断工作流程，降低认知负荷，并改善肾脏病学和产科等高风险环境中的患者结果。
• 动机与相关工作: 以往的临床决策支持系统（CDSS）研究主要集中于静态预测，往往忽视了可解释性和交互性需求。现有研究缺乏对在真实临床环境中运行的完整系统的实证评估，也未充分考虑临床医生专业水平的差异。

解决方案

• 提出的方法: AICare，一个交互式且可解释的人工智能副驾驶，旨在通过提供动态风险轨迹、特征级归因、基于LLM的诊断推荐和群体级分析来支持临床医生。
• 创新点:
  1. 引入动态风险轨迹可视化工具，以时间为上下文展示患者健康状况。
  2. 集成交互式特征重要性工具，支持细粒度数据探查。
  3. 利用LLM生成简洁的叙述性诊断建议。
  4. 在真实环境中对AICare进行实证评估，突出初级和高级临床医生之间的不同交互模式。
• 流程与关键技术:
  • AICare使用双向GRU和注意力机制处理纵向EHR数据，以应对不规则采样和动态特征归因。
  • 功能包括交互式可视化、LLM生成的摘要和群体级比较。
  • 在肾脏病学和产科领域，16名临床医生参与了被试内实验，评估AICare对效率、准确性、认知负荷和信任的影响。

结果

• 具体发现:
  • AICare显著降低了认知负荷（p = .023），并提高了诊断信心（p = .018）。
  • 诊断准确性与基线相当，整体效率未显著提高，但根据专业水平表现出不同的行为模式。
  • 初级临床医生任务时间减少了32%（无统计显著性），而高级临床医生花费更多时间进行对抗性验证。
• 相较基线的优势:
  • AICare帮助临床医生外化记忆密集型任务，提供直观的可视化和可操作的洞察。
  • 透明性和交互性增强了信任，支持多样化的推理风格，与静态、不透明的系统不同。
• 实验/评估:
  • 使用来自肾脏病学和产科的真实EHR数据集，对16名临床医生（9名高级，7名初级）进行实验。
  • 通过NASA-TLX、SUS、信任量表和半结构化访谈进行评估。
  • 交互指标显示初级和高级临床医生在验证行为上存在显著差异。
• 局限性与未来工作:
  • 样本量较小且依赖回顾性数据，限制了结果的普适性。
  • 可视化复杂性和偶发的LLM幻觉被识别为需要改进的领域。
  • 未来工作包括开发自适应界面、反事实分析以及纵向研究，以优化可用性和信任校准。

总结

AICare展示了交互式和可解释的人工智能副驾驶在增强临床决策中的潜力，通过降低认知负荷和提高诊断信心发挥作用。系统的动态可视化和基于LLM的推荐支持多样化的推理风格，为新手提供认知支架，为专家提供验证工具。尽管透明性增强了信任，但也突显了需要稳健的算法推理以避免信任侵蚀。这些发现强调了设计与临床工作流程和推理过程相契合的人工智能系统的重要性，为医疗领域负责任和高效的人工智能整合铺平了道路。