应该赋予(A)I多少决策权？：探究患者对医疗决策中AI自主性的偏好

文献标题

How Much Decision Power Should (A)I Have?: Investigating Patients’ Preferences Towards AI Autonomy in Healthcare Decision Making

文献信息

• 主题领域: 人工智能在医疗决策支持中的应用
• 关键词: 人工智能, 共享决策, 患者中心护理, 临床决策支持工具, 数字孪生, 医患协作

研究背景与问题

• 发现的问题与挑战:

  1. 虽然人工智能（AI）在医疗领域具有提升临床决策的潜力，但关于患者如何看待AI在他们医疗决策过程中的作用，目前研究不足。
  2. 患者对AI干预医疗决策的信任与接受度存在不确定性，这种情况受到风险感知、心理变量及医疗需求的影响。
  3. 现有研究多关注为临床医生设计的AI决策支持工具（DSTs），而患者的视角被忽视。

• 研究重要性:

  1. 患者是医疗服务的最终受益者，因此其观点应成为AI医疗应用设计的重要输入。
  2. AI协助医疗决策如果未能反映患者的偏好或需求，可能导致患者对AI的不信任，影响医疗效果。

• 研究动机与相关工作:

  1. 人机交互（HCI）领域对临床医生使用AI的认知、心理和专业自主性相关问题已有一定研究，但鲜有涉及患者需求和偏好。
  2. HCI研究对共享决策和患者中心护理价值的强调为本研究提供理论支持。

解决方案

• 研究方法:

  • 设计一个包含交互故事情节与AI原型的虚构性“探针”，以探索不同AI自主等级对患者决策偏好的影响。
  • 开发三个假设AI原型（DT Calculator、DT Virtual Advisor、DT Virtual Doctor），分别体现AI的低、中、高自主性。
  • 通过半结构化访谈（12名参与者）和在线问卷（15名参与者）获取数据。

• 解决方案的创新性:

  1. 提出并分类了几个AI自主等级（L0到L3），为研究患者与AI交互提供框架。
  2. 结合虚拟故事情节，通过情景化患者行为和决策过程，获取实时反馈。
  3. 探讨了患者对AI的动态偏好变化以及如何在设计上支持这些变化。

• 实施步骤与关键技术:

  • AI自主等级定义:

    1. Level 0（完全无AI参与）：患者仅与医生互动。
    2. Level 1（工具型AI）：AI仅根据患者需求提供预测信息。
    3. Level 2（建议型AI）：AI提出推荐但最终决策权在患者。
    4. Level 3（权威型AI）：AI以自主方式做出医疗决策，关键步骤仍需患者与医生授权。

  • 交互故事设计:

    1. 设置孕期相关的互动情节（低风险与高风险决策场景）。
    2. 使用交互式情节和视频展示AI功能来启发患者的反思与选择。
    3. 收集患者对AI偏好的选择与其决策逻辑。

研究成果

• 具体成果:

  1. 大部分患者倾向于在医疗决策中使用建议型AI（L2），但希望同时医生参与。
  2. 患者的AI偏好因决策风险水平而大幅变化：低风险情境更倾向于工具型AI，高风险情境更倾向于建议型AI。
  3. 患者对AI的信任度与个人健康历史、心理状况及个人决策态度密切相关。

• 优势:

  1. 提供了患者在AI辅助医疗决策中的偏好模式与动态变化的深刻洞察。
  2. 明确了患者偏好的核心驱动因素，为设计患者接受度高的AI决策支持系统提供参考。

• 实验或评估结果:

  • 数据结果表明，高风险医疗决策场景中患者更倾向于建议型AI（DT Virtual Advisor），而在低风险场景中工具型AI（DT Calculator）的接受度更高。
  • 突出了患者的动态与个性化偏好，强调了对AI系统支持变动性和透明度的需求。

• 局限性与未来方向:

  1. 样本规模较小，对更大规模样本验证结果的一般性仍有待研究。
  2. 不同文化背景下对于AI角色的认知可能存在差异，值得进一步探索其跨文化适用性。
  3. 研究聚焦于女性患者对AI的偏好，但家庭成员或其他相关方的意见可能对最终决策有重要影响。
  4. 从患者的持续使用和长远信任角度建议探讨AI如何动态满足其需求与偏好。

通过本文研究，可以看到AI作为医疗决策辅助工具的潜力和设计挑战在于如何真正体现患者中心的价值，而非简单的技术功能拓展。这为未来AI医疗技术的设计与部署提供了关键理论依据。