重新思考人工智能在肿瘤学中与医师的角色：揭示临床和研究工作流程中的视角

文献标题

重新思考人工智能在肿瘤领域与医生的协作角色：揭示临床与研究工作流程中的视角

文献信息

• 主题领域: 人工智能在肿瘤学中的角色与人机协作
• 关键词: AI在肿瘤学中的应用、临床AI采纳、想象力、可解释性、可争议性、人本主义AI、闭环人机协作

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 尽管人工智能 (AI) 在癌症研究中的进展显著，其在临床应用中的影响却非常有限。
  • 病因之一在于当前的AI开发未充分考虑临床和研究实践中的根本性差异，尤其是两者在意图和范围上的不同。
  • 临床医生对AI的信任更多基于其与AI互动的可争议性体验，而非对AI的总体认可。

• 为什么这个问题很重要？

  • 精准医疗和个性化治疗的推进高度依赖AI技术，但受困于临床采用率的低下。
  • 当前的“通用型”AI开发模式无法满足临床工作特定的需求和情境适应性，阻碍了其在临床治疗中的深入应用。

• 研究动机与相关工作

  • 针对人工智能在肿瘤学临床与研究工作流程中的角色以及医生对AI的期待，展开详细调查，以填补当前人机协作与医疗AI开发中的关键空白。
  • 相关研究揭示医学图像AI的广泛潜力，但指出因黑箱效应、受限的样本规模以及伦理和责任问题等挑战，AI难以在临床中大规模实现。
  • 强调HCI（人机交互学）与AI的跨学科协作对于解决这些问题的重要性。

解决方案

• 作者提出了哪些方法或解决方案？

  • 开展一个半结构化的访谈研究，采访七位从事癌症治疗和研究的医生，探讨AI技术在肿瘤学中应用的现状、预期和挑战。
  • 分析医生们的临床与研究实践，找出两种工作流程的内在张力以及AI在其中的角色与定位。
  • 引入人本主义与闭环人机协作设计理念，以重新校准AI技术在肿瘤学中的开发与部署路径。

• 该解决方案的创新之处是什么？

  • 提出了通过“想象力”（imaginaries）视角理解AI对医生和医疗工作流程的意义；这是一种社会学方法，为AI定义其社会角色提供了新颖视角。
  • 在医学情境中系统思考可解释性和可争议性问题，指出其在决策支持系统（CDSS）中的差异化需求和实践意义。

• 实施步骤是什么？主要技术点有哪些？

  1. 数据收集: 与7名（包括核医学、放射学、肿瘤学等领域）具有临床与研究经验的医生进行一对一访谈。
  2. 访谈主题包括：
     • 医生的专业背景和工作流程。
     • 与病患互动、肿瘤治疗中的决策流程。
     • 对AI现有的看法及对未来作用的期待。
  3. 数据分析方法: 对访谈内容进行开放编码与轴线编码，挖掘反复出现的主题与共性问题。
  4. 打造AI应用的两种概念模型：
     • 工具型（辅助决策工具）。
     • 构成型（作为肿瘤委员会会议中的平等参与者）。

研究成果

• 取得了哪些具体成果？

  • 医生对AI的信任主要依赖他们与AI交互的争议性体验（contestability），以及与AI进行监督性使用的倾向（clinician-in-the-loop模式）。
  • 提出了三类AI的核心情境需求：
    1. 可解释性：医生需要AI明确展示数据来源与病理生物学关联。
    2. 可争议性：通过本地验证与迭代，开发个人经验基础上的认可信任。
    3. 协作性：AI需无缝融入临床决策会议（如肿瘤委员会MTB）的现有生态。
  • AI目前在研究中的作用大幅优于临床，但各自工作流中的伦理与责任挑战不同。

• 与现有解决方案相比，它有哪些优势？

  • 打破了以往单一工作流视角，通过结合临床与研究实践，突出了人工智能人本主义设计中的对立张力。
  • 提供了务实的设计路径，降低临床引入AI的障碍（如数据治理和解释化）。

• 实验或评估结果是什么？

  • 医生对AI的接受度与信任感因工作环境（研究 vs. 临床）、目标（长期学术成果 vs. 个体病人治疗）和工具需求的差异而分化。
  • 在临床决策中，AI较多地被视作“辅助者”而非“主导者”，要求结合医生的监督性运作。

• 局限性与未来方向

  • 样本量小（7名医生），未来需更广泛的医生群体参与以验证初步发现。
  • 尚未对AI在模拟的多学科肿瘤会议环境中的具体功能设计进行全方位实证研究，应继续开发“工具型”与“构成型”AI的原型。
  • 建议通过跨学科协作，进一步解构“可争议性”和“可解释性”在临床与研究实践中的内涵。