准确洞察，可信交互：设计用于诊断预测的基于知识图谱的协作人工智能-人多智能体系统

研究背景与问题

• 作者发现了哪些问题或挑战？ 医疗领域中的问答系统（MedQA）虽然可以为临床决策提供支持，但传统系统在处理多代理交互以及领域特定知识时存在困难。这导致了临床决策的精确性和可信度的下降。同时，大型预训练语言模型（PLMs）在面对复杂医疗案例时也会出现错误或难以解释结果（“幻觉”问题），进一步降低了用户对系统的信任。

• 为什么这个问题很重要？ 医疗领域中的准确决策对患者安全至关重要。随着医疗知识的不断扩展以及数据量的快速增长，临床医生面临信息过载的挑战，无法迅速且全面地做出准确决策。因此，开发能够提供可靠诊断支持的系统，对提升医疗质量和减少诊断错误至关重要。

• 研究动机与相关工作 作者基于现代预训练模型已在医疗信息处理领域取得的成功，提出了一种解决方案，对其目前存在的领域知识不足、结果不透明及可信度低等问题进行改进。现有文献表明，将知识图谱（KG）、检索增强生成（RAG）以及多代理系统（MAS）结合，可以在一定程度上缓解上述问题。

解决方案

• 作者提出了哪些方法或解决方案？ 作者设计了一个集成多代理系统（MAS）、医学知识图谱（KG）和检索增强生成（RAG）技术的医疗决策支持系统。该系统能够有效协调智能代理处理医学文献、临床指南及电子健康记录等多源异构信息，从而生成精确而可信的诊断建议。

• 该解决方案的创新之处是什么？

  1. 多代理系统（MAS）： 分工明确的虚拟专家代理（包括检索代理、知识代理和协调代理）模拟了多学科医生的协作机制。
  2. 知识图谱（KG）： 提供领域特定的结构化知识，提升结果的解释性和准确性。
  3. 检索增强生成（RAG）： 结合结构化和非结构化数据，减轻“幻觉”问题，确保生成答案与医疗领域的知识一致。
  4. 提供可解释的诊断路径和最终报告，增强临床医生对系统的信任。

• 实施步骤是什么？使用了哪些关键技术？

  1. 症状总结： 运用自然语言处理技术，将用户输入整理为结构化症状列表。
  2. 专家调用： 根据症状总结，唤起不同领域的虚拟专家代理。
  3. 知识检索： 使用RAG模型，从医学数据库和知识图谱中检索相关文献和结构化知识。
  4. 结果讨论： 多代理之间协作整合输出，通过加权平均或共识决策模型生成初步诊断建议。
  5. 共识构建： 使用多准则决策分析（MCDA）生成最终诊断报告，同时生成解释说明以提高系统透明度。

研究成果

• 取得了哪些具体成果？

  1. 作者开发的CARE系统在诊断预测方面表现优越，在多项医学数据集（MMLU-Med、PubMedQA*、BioASQ）的评估中表现出色。
  2. 系统有效减少了生成模型中的“幻觉”问题，同时增强了诊断结果的可信度与解释能力。

• 与现有解决方案相比，它有哪些优势？ CARE系统在准确性、用户满意度和信息透明度上优于传统的零样本、链式思维（COT）、以及单独使用RAG的模型。

  • 在BioASQ数据集上，CARE的准确率达到0.9013，显著高于RAG的0.8948。
  • CARE系统提供了更丰富背景信息和更高的诊断结果解释性，增强了医疗人员的信任。

• 实验或评估结果是什么？ 通过技术评估和用户研究：

  1. 技术评估显示：CARE系统在三个数据集的准确性指标上均超过其他方法。
  2. 用户研究表明：参与者对系统的信息相关性、理解性、和操作性满意度高；信息透明性和隐私保护能力增强了用户信任。
  3. 用户也提出了未来优化方向，包括处理稀有疾病、增加多模态数据（如影像数据）的融合能力及简化操作流程。

• 局限性与未来方向

  1. 稀有疾病诊断能力不足： 由于稀有疾病数据缺乏，模型在应对复杂案例时表现不足，需通过引入专门数据集或专家知识来改进。
  2. 多模态数据处理： 系统对医学影像、基因数据等非文本数据的整合能力有限，未来需探索如何标准化与融合不同数据类型。
  3. 系统扩展性： 随着用户需求及数据量的增加，系统需要优化以处理大规模并发请求，特别是在紧急医疗场景下确保稳定性与快速响应。

总结

本文提出了一种创新性的多代理医学决策支持系统，通过整合知识图谱和检索增强生成技术解决传统系统精准性及透明性不足的问题。未来工作应重点提升该系统在稀有疾病诊断、多模态数据融合及用户体验方面的能力，为医疗领域的复杂决策提供更可靠和可解释的支持。