用言语描述我的感受：探索AI代理人在预先医疗护理计划高主观性决策中的潜力

文献标题

Words to Describe What I’m Feeling: Exploring the Potential of AI Agents for High Subjectivity Decisions in Advance Care Planning

出版信息

• 主题领域: 基于人工智能的决策支持在预先医疗计划（ACP）中的应用
• 关键词: 预先医疗计划, AI代理, 高主观性决策, 决策支持, 代理自主性, 人类控制, 患者倡导, 生成式AI, 临终规划, 医疗技术

背景与问题

• 问题/挑战: 传统的预先医疗计划（ACP）依赖于人类代理，但人口结构的变化导致护理人员的可用性减少，而现有的ACP实践往往是静态的，无法适应不断变化的临床和个人情况。在高风险、高主观性决策（如ACP）中，人工智能的潜在作用尚未得到充分探索。
• 重要性: 随着社会老龄化和护理人员可用性下降，解决ACP实践中的不足至关重要。人工智能系统可以为在关键医疗决策中代表患者价值观提供可扩展、可适应的支持。
• 动机与相关工作: 先前的研究集中在利用人工智能提取偏好、预测ACP资格以及指导价值探索。然而，这些工具仍然是建议性的，缺乏作为自主代理的能力。本研究基于这一空白，探索人工智能在高风险、主观性决策环境中的作用。

解决方案

• 提出的方法: 开发并评估ACPAgent，这是一种人工智能驱动的原型，旨在模拟训练代理在ACP中的复苏决策中充当个人代理。
• 创新点:
  1. 引入ACPAgent作为一种可训练的人工智能代理，用于高风险、高主观性决策。
  2. 提供关于用户对人工智能在ACP环境中感知和交互的实证发现。
  3. 提出人工智能作为患者倡导者的设计考量，弥补当前ACP实践中的不足。
• 程序和关键技术:
  • 参与者在五个心肺复苏（CPR）场景中训练ACPAgent，提供偏好和反馈。
  • 场景涵盖从可恢复的健康事件到高级衰退的健康轨迹。
  • 参与者反思ACPAgent的建议，调整偏好，并设想其潜在角色。
  • 数据通过主题编码分析，并映射到Shneiderman的自主性-控制框架中。

结果

• 具体发现:
  • 参与者在86.7%的情况下同意ACPAgent的建议。
  • 场景细节在76%的情况下影响了决策，突出了预后、独立性和经济负担等情境因素的重要性。
  • 参与者设想了ACPAgent的四种角色：决策支持工具、教育工具、法律代理和带有人类签字的代理。
• 相较基线的优势: ACPAgent提供了一个反思性、互动性的平台，用于探索价值观和决策，不同于静态的ACP文档。它还支持双向学习，参与者和代理相互影响。
• 实验/评估:
  • 在四个研讨会中对15名参与者进行实验。
  • 参与者参与了五个CPR场景，调整偏好，并对ACPAgent的建议提供反馈。
  • 数据包括偏好变化、同意率和定性反思。
• 局限性与未来工作:
  • 简化的场景和单次研讨会限制了生态现实性。
  • 界面缺乏多轮对话和推理透明性。
  • 未来工作应探索纵向部署、模糊案例以及文化对人工智能在ACP中的影响。

总结

本研究介绍了ACPAgent，这是一种设计为在预先医疗计划（ACP）中充当代理的人工智能原型。在五个CPR场景中，参与者训练了ACPAgent并反思其建议，显示出较高的同意率（86.7%）以及多样化的潜在角色，包括决策支持工具、教育工具、法律代理和带有人类签字的代理。研究强调了人工智能作为患者倡导者的潜力，能够放大和强化价值观，同时补充人类监督。未来工作应解决场景现实性、交互设计和监管框架方面的局限性，以推进人工智能在高风险、高主观性决策环境中的作用。