《如果有全世界所有的时间》：眼科医生对临床人工智能支持中锚定偏见缓解的看法

文献标题

“If I Had All the Time in the World”: Ophthalmologists’ Perceptions of Anchoring Bias Mitigation in Clinical AI Support

文献信息

• 主题领域: 眼科学中的人工智能临床决策支持与认知偏差研究
• 关键词: 认知偏差, 锚定偏差, 决策支持, 人工智能, 偏差缓解, 临床决策支持系统 (CDSS), 人机交互, 眼科学, 糖尿病性视网膜病变 (DR)

研究背景与问题

• 问题或挑战:

  • 人工智能（AI）日益广泛应用于临床决策支持系统（CDSS），以帮助医生处理复杂决策和减轻工作负担，但也可能带来新的认知偏差（如锚定偏差）。
  • 特定偏差如锚定偏差（对初始信息的过度依赖）可能导致诊断错误，影响患者健康。
  • 医务人员对AI功能和局限性的错误理解可能增加负面影响。

• 重要性:

  • 随着糖尿病性视网膜病变（DR）病例的增多，临床医生需频繁处理复杂案例，同时保证诊断的准确性和效率。
  • 偏差缓解方法如何集成到CDSS仍未被充分研究，尤其是在实际临床场景中的可用性和效果问题。

• 研究动机与相关工作:

  • 现有研究表明认知偏差广泛存在，但对如何在AI支持的CDSS中减轻这些偏差的探索较少。
  • 作者将偏差缓解的文献成果引入眼科环境，旨在研究临床医生对特定策略的看法，并基于其真实工作流设计解决方案。

解决方案

• 方法或解决方案:

  • 作者设计了一个交互式原型，集成了三种偏差缓解策略：
    1. “先听故事” (Hear the Story First)：让医生在查看AI推荐的结果之前，先自行评估数据。
    2. “决策解释” (Decision Justification)：要求医生写下诊断理由以促使反思。
    3. “考虑相反” (Consider the Opposite)：当医生诊断未发现异常但AI检测出问题时，提醒医生重新评估。

• 创新之处:

  • 根据医生的实际工作流设计偏差缓解策略。
  • 将复杂偏差缓解策略整合进CDSS界面，提供直观工具避免认知偏差。
  • 研究医生如何看待AI决策支持中的认知偏差问题。

• 实施步骤与关键技术:

  • Study 1: 利用七次访谈和三次实地观察收集医生使用CDSS的背景数据。
  • Study 2: 构建原型并通过六位医生测试偏差缓解策略的实际效果和接受度。
  • 关键技术: 结合用户界面调研与定性分析（运用反射型主题分析方法）分析结果。

研究成果

• 具体成果:

  • 医生对三种偏差缓解策略有不同的反馈：
    • "Hear the Story First"：可以减少锚定偏差，但效率降低。
    • "Decision Justification"：可能增强诊断准确性，但需要额外时间，且部分医生认为重复性高。
    • "Consider the Opposite"：有助于避免遗漏关键细节，但部分医生不喜欢被AI“核查”的感觉。
  • 不同医生对偏差缓解的接受度各异，这一差异与他们对当前AI能力的信任程度有关。

• 与现有解决方案的比较:

  • 研究揭示了现行CDSS未能匹配医生期望（如低精度、功能单一）的现实问题。
  • 提出通过设计更敏感的用户界面和周期性激活偏差缓解技术以缓解用户对效率损失的担忧。

• 实验或评估结果:

  • 改善认知偏差的策略可能提高诊断标准，但可能产生新的挑战（如效率问题）。
  • 偏差缓解技术的学习潜力对年轻或经验不足的医生尤为重要，但资深医生可能不容易接受。

• 局限性与未来方向:

  • 局限性包括未对单独偏差缓解策略与特定实现方式进行独立评估，研究对象局限于眼科学领域。
  • 对未来工作建议：
    1. 探索更灵活的偏差缓解界面设计。
    2. 在更广泛的医疗背景中测试偏差缓解策略。
    3. 进一步量化偏差缓解策略在实践中的长期有效性。