在时间紧迫的医疗决策中设计值得信赖和协作的AI：一种社会技术视角

文献标题

Designing AI for Trust and Collaboration in Time-Constrained Medical Decisions: A Sociotechnical Lens

文献信息

• 主题领域: 人工智能在医学决策中的应用，特别是时间受限环境中的信任与协作
• 关键词: 医学决策支持工具、大型抑郁障碍、协作设计、可解释人工智能、临床工作流整合、患者偏好、时间约束、可信任系统、领域知识、随机临床试验

研究背景与问题

• 问题或挑战:

  • 大型抑郁障碍（MDD）是一种复杂的疾病，治疗选择困难且缺乏明确的临床指导。
  • 现有的基于机器学习的决策支持工具（DST）在临床实践中常常失败，原因包括系统整合差以及用户接受度低。
  • 选择抗抑郁药物通常依赖试错法，导致许多患者无法缓解症状。

• 重要性:

  • MDD发病率较高，对患者和社会造成了巨大负担。
  • 改进工具能够帮助医疗工作者做出更有效的治疗决策，从而提高患者治疗成功率，减少试错的时间和成本。

• 研究动机与相关工作:

  • 现阶段的决策支持工具设计往往忽略用户需求，聚焦于模型准确性而非实际应用场景。
  • 在复杂的医疗环境中，机器学习工具需要与社会技术系统、临床常规、患者偏好及资源限制相结合。
  • 相关研究表明，社会技术视角对于医疗工具的有效整合至关重要。

解决方案

• 提出的解决方案:

  • 作者采用迭代的协作设计流程，与临床医生合作开发针对抗抑郁药物治疗决策的决策支持工具原型。
  • 工具设计以多用户系统为目标，支持患者和提供者的协作决策，并通过按需解释功能满足临床环境的时间约束需求。

• 创新之处:

  • 引入社会技术视角，强调医疗过程中的社会、技术和组织因素。
  • 提出与现有临床指南对比的差异化按需解释机制，从而避免过于复杂的每次预测解释。
  • 工具设计不仅关注单一用户（医生），还关注患者的参与需求，与医疗团队的协作，以及与现有资源的整合。

• 实施步骤与关键技术:

  • 采用半结构化访谈和焦点小组探讨用户需求，并设计原型工具。
  • 核心功能包括：基于机器学习模型的药物推荐、治疗预测（如稳定性评分、掉出概率评分）以及患者互动界面。
  • 通过收集临床医生的反馈，对初始原型进行重新设计以更好地支持协作决策并满足实际环境需求。

研究成果

• 成果:

  • 通过用户研究发现临床医生对DST的期望和需求，包括支持患者协作、与现有医疗流程的整合以及工具的验证。
  • 提出了具体设计原则用于改进DST，包括：互动式患者病历调整、清晰的药物比较显示以及按需验证信息的提供。

• 优势:

  • 与传统的基于模型性能的工具相比，该设计能更好满足实际临床环境的需求。
  • 支持生成可操作的建议，改进治疗效果和患者参与度。

• 实验与评估结果:

  • 临床医生认为原型有效简化了治疗决策，并能提供有益的建议。
  • 在样例展示中发现，当模型输出与医生的知识或预期不一致时，缺乏差异化解释机制会导致使用工具的信心下降。

• 局限性与未来方向:

  • 局限性包括工具设计主要集中于临床医生的视角，尚未充分考虑患者及其他医疗从业人员的参与。
  • 未来工作将扩展至患者协作设计以及多用户系统的开发。
  • 还需探索适应不同情境（如高风险决策或资源匮乏地区）的设计方法。

通过这项研究，作者提出了在医疗决策中设计和部署人工智能工具的一些新方向，强调社会技术因素的重要性以及患者和医疗团队的协作，这对其他医疗领域的工具设计也有重要借鉴意义。