智能推理线索：人工智能信息在复杂决策中角色的框架与案例研究

文献标题

Intelligent Reasoning Cues: A Framework and Case Study of the Roles of AI Information in Complex Decisions

出版信息

• 主题领域: 高风险专家领域中的基于AI的决策支持系统
• 关键词: AI决策支持、智能推理提示、临床决策、脓毒症治疗、人机交互、推理模式、情境调查、思维大声研究、ICU、医疗AI

背景与问题

• 问题/挑战: 现有的AI决策支持系统在复杂且高风险的决策中往往未能有效支持专家用户。传统模型主要关注校准对AI建议的依赖性，但未能解决AI信息如何影响推理过程的问题。
• 重要性: 提升AI决策支持系统的能力可以改善关键领域（如医疗保健）中的决策质量和结果，而在这些领域中，错误或低效可能导致生命危险的后果。
• 动机与相关工作: 先前研究探讨了AI解释、不确定性估计以及用户控制以促进对AI的依赖。然而，这些方法结果不一，表明需要一个更广泛的框架来理解AI信息如何与人类推理交互。本文提出了一个新框架“智能推理提示”来填补这一空白。

解决方案

• 提出的方法: “智能推理提示”框架将AI界面概念化为由离散的AI衍生信息（推理提示）组成的集合，这些信息影响决策过程。
• 创新点:
  1. 引入推理提示的概念，超越传统的“第二意见”AI模型。
  2. 确定推理提示对人类推理施加影响的具体模式。
  3. 在重症监护病房（ICU）脓毒症治疗的背景下开发并评估推理提示。
  4. 提供设计原则，用于创建自适应、情境敏感的AI决策支持系统。
• 程序和关键技术:
  1. 开发了八种推理提示（如异常特征、风险预测、同行行为），并将其嵌入AI界面中。
  2. 进行了两项研究：与六个ICU团队的情境调查，以及25名医生使用AI界面的思维大声研究。
  3. 通过定性编码和主题分析分析推理过程、影响模式及对推理提示的感知。

结果

• 具体发现:
  • 确定了11种不同的影响模式，包括“考虑替代方案”、“解决矛盾”、“自我怀疑”和“计划偏好”。
  • 推理提示如异常特征（R2）和计划依赖的风险差异（R4）在支持复杂决策中尤为有效。
  • 临床医生重视提供“真实数据”并补充现有指南的推理提示。
• 相较基线的优势:
  • 证明推理提示可以超越简单依赖AI建议的方式影响推理。
  • 显示临床医生在AI支持可自由裁量的复杂决策而非规范化任务时更可能与AI交互。
• 实验/评估:
  • 研究1：与六个ICU团队的情境调查，以了解真实世界的推理过程。
  • 研究2：25名ICU医生在四个复杂脓毒症案例中使用AI界面进行决策的思维大声研究。
  • 分析包括544个编码的推理过程以及推理模式和AI影响的主题映射。
• 局限性与未来工作:
  • 研究聚焦于脓毒症治疗，发现可能无法在未经进一步研究的情况下推广至其他领域。
  • 参与者为ICU医生，其推理模式可能与更有经验的临床医生不同。
  • 未来工作应探索其他决策情境中的推理提示，并测试其对决策质量的定量影响。

总结

本文提出了“智能推理提示”框架，以更好地理解AI衍生信息如何影响专家决策。通过对ICU脓毒症治疗的案例研究，作者确定了受AI提示影响的具体推理模式，并提出了适应性决策支持系统的设计原则。研究结果表明，当推理提示支持自由裁量决策、与临床医生目标一致并补充现有知识时，其效果最佳。未来研究应探索该框架的普适性，并评估其对决策结果的定量影响。