利用生物医学文献校准临床医生对AI决策支持系统的信任

文献标题

Harnessing Biomedical Literature to Calibrate Clinicians’ Trust in AI Decision Support Systems

文献信息

• 主题领域: 人机交互 (HCI)、人工智能 (AI) 在医疗领域的应用
• 关键词: 临床人工智能, 可解释 AI, 生物医学文献, 定性方法, 医疗决策支持

研究背景与问题

• 发现的问题或挑战:

  • 临床决策支持工具 (DST) 的目标是帮助医生改善诊断和治疗决策，但由于 AI 模型并非总是正确，医生需要逐案验证 AI 的建议。
  • 现有的 DST 通常通过解释 AI 的内在机制 (可解释 AI, XAI) 或性能指标来建立信任。然而，这种方法在实践中表现效果有限，医生往往无法通过这些解释来判断建议的正确性。
  • AI 建议的“不透明性”和“缺乏可信性的明确证据”导致医生不完全信任 AI。

• 重要性:

  • AI 的错误可能导致临床决策的失误，潜在地影响患者的健康结果。
  • 如何有效调节医生对 AI 建议的信任，是扩大 AI 在医疗领域应用的重要步骤。

• 研究动机与相关工作:

  • 作者受医生在实践中验证同事建议的方式启发。他们通常参考科学文献来验证建议的适用性和可靠性。
  • 文献检索和证据收集基于循证医学 (EBM) 的原则，但 AI 建议中缺乏与个别病人具体情况相关的明确证据。

解决方案

• 方法或解决方案:

  • 提出了一种新型的决策支持工具，模仿医生之间以文献为依据的信任调节互动模式。该工具将使用 GPT-3 提取生物医学文献中的证据来验证 AI 建议的适用性和可靠性。
  • 而非解释 AI 的内在工作方式，设计更聚焦于提供能支持或反驳 AI 建议的文献证据。

• 创新之处:

  • 取代现有通过解释 AI 内在机制来建立信任的方法，转而参考医生实践中的自然互动模式。
  • 强调两类证据的区分：建议的“稳健性”与“适用性”。
  • 整合了来自随机临床试验、高质量研究，以及历史病例的文献证据。

• 实施步骤及关键技术:

  • 使用基于 PICO 框架 (患者群体、干预方法、比较方法、目标结果) 的生物医学文献检索工具。
  • 使用 GPT-3 提供自动化摘要功能，助力生成可供医生快速阅读的文献证据摘要。
  • 声化串联来自循证医学和 AI 模型的建议，通过综合证据帮助医生做出决策。

研究成果

• 具体成果:

  • 开发了一款基于生物医学文献提供的 DST 原型工具，通过验证 AI 建议的适用性与稳健性帮助医生更有效地判断建议的正确性。
  • 实验揭示医生尤其注重 AI 建议的适用性，通过对文献中患者样本和实际患者情况进行匹配尤为关键。

• 优势与改进:

  • 与现有基于 XAI 的方法相比，该工具显著提升了医生对 AI 建议的信任，并减轻了解释 AI 内部工作方式的认知负担。
  • 文献证据提供了一种医生熟悉并信任的信息视角，有助于弥合医生与 AI 建议之间的“语言鸿沟”。

• 实验或评估结果:

  • 两阶段研究中邀请多领域医生参与，确认了设计策略的有效性。医生认为将文献证据与 AI 建议结合对提升决策质量有实际益处。
  • 实施原型后发现新机会：结合生物图像及基因组学证据；在资源有限医院中文献证据可以作为独立的决策支持工具。

• 局限性与未来方向:

  • 语言模型当前在处理医学文本上仍可能存在错误，进一步研究需要明确该工具在紧急情况下的精确性与总结能力。
  • 进一步验证此设计在其他疾病领域的适用性和一般化能力。
  • 探索与更多类型数据（如医学图像和 -omics数据）融合的可能性，同时应关注避免医生技能退化的问题。

总结

本文开创了一种基于生物医学文献的信任调节交互设计，为目前临床 AI 的解释性和医生信任的建立提供了新方向。未来研究可在改进文献整合技术、探索跨领域适用性方面进一步推动这一设计理念的实践应用。