探索和促进在线症状检查器中的诊断透明度和可解释性

文献标题

Exploring and Promoting Diagnostic Transparency and Explainability in Online Symptom Checkers

文献信息

• 主题领域: 健康信息技术、在线症状检查器、人工智能的可解释性
• 关键词: 症状检查器、COVID-19、解释性、健康、透明性、用户体验、信任、人机交互、医疗决策

研究背景与问题

• 问题及挑战:

  • 在线症状检查器（OSCs）能够帮助用户进行自诊和分诊，但其算法缺乏透明性和可解释性。这种不透明性尤其在高风险的医疗领域会引发用户不信任以及潜在的误导。
  • 当前的研究主要集中于症状检查器的诊断准确性，对实际用户的需求以及用户对结果的感知知之甚少。
  • 强调诊断透明性和增加用户理解系统的过程对于减少误解和优化用户信任非常重要。

• 重要性: OSCs 在各种医疗场景中（如基层医疗、远程健康、流行病管理）应用广泛。在 COVID-19 疫情期间，OSCs 被用于帮助用户判断是否需要测试或医疗护理，但用户对其诊断建议的有效性和透明性仍存疑。

• 研究动机与相关工作:

  • 许多研究指出，在使用 OSC 的过程中，用户需要更清晰的解释，特别是需要了解 OSC 如何得出诊断建议。但目前缺乏针对医疗领域的、用户驱动的解释性设计研究。
  • 作者希望通过提供解释，改善用户对 OSC 的信任、透明度以及交互体验。

解决方案

• 方法与解决方案:

  • 研究方法: 研究分为两部分。第一部分是用户访谈 (N=25)，旨在探索用户对现有 OSC 的解释需求；第二部分设计并开发了一个带有三种解释风格的 COVID-19 症状检查器，并通过实验 (N=20) 评估解释增加对用户体验的改善。
  • 三种解释风格:
    1. Rationale-based explanation: 在每个问题或结果后提供问询目的的解释。
    2. Feature-based explanation: 梳理用户输入的症状或信息，并解释这些信息如何影响诊断。
    3. Example-based explanation: 提供用户的输入数据与推荐诊断结果相似的案例以及数据来源。

• 创新之处:

  • 提出了三种用户中心化的解释风格，并针对高风险医疗场景进行了设计验证。
  • 将多学科的解释模型（如 XAI 和 HCI 理论）融入到症状检查器的透明性设计中。

• 实施步骤与关键技术:

  • 针对用户访谈的数据进行主题分析，提炼用户的解释需求。
  • 在设计研究阶段，结合用户需求开发具备聊天界面的 COVID-19 症状检查器。
  • 使用用户评估框架，根据信任、透明性、医疗决策支持等指标分析实验数据。

研究成果

• 具体成果:

  • 增加解释性显著提高了用户体验，包括信任、感知透明性和对诊断质量的满意度。
  • 三种解释风格在不同维度上均有所贡献，其中，Feature-based 和 Example-based 解释在用户对诊断质量和医疗决策支持的提升中表现最佳。
  • 解释方式还促进了用户对自身健康状况的认知和学习，有助于提高健康意识。

• 与现有解决方案的比较:

  • 当前的多数学术工作仅关注诊断模型的准确性，忽略了对用户交互和解释设计的研究，而本研究则从用户体验角度提出了切实的优化建议。
  • 通过实验证实这些解释模型在医疗高风险领域的重要性。

• 实验或评估结果:

  • 提供解释后，用户对 OSC 的信任得分提高了 1 分以上（满分 7 分）。
  • 涉及透明性的指标得分提升了 2-3 分，显示解释能够有效减少用户对诊断结果的疑虑。
  • 用户在增加解释性的情况下，诊断结果采取率明显高于对照组。

• 局限性与未来方向:

  • 局限性:
    • 研究聚焦于特定疾病（COVID-19），未来需要验证系统在多种疾病情境下的适用性。
    • 样本量有限且主要针对大学生，未来研究需对更广泛人群做进一步测试。
    • 当前仅实现了单一解释风格的测试，未来可探索混合式解释风格的效果。
  • 未来方向:
    • 开发针对多疾病场景的通用解释性 OSC。
    • 深入探索透明度和用户信息过载之间的平衡。
    • 研究如何动态调整解释信息以适应不同用户偏好（如高级用户 vs. 初学者）。

总结

本研究通过用户驱动的设计和实验，展示了为在线症状检查器增加解释性的重要性。研究表明，适当设计的解释不仅提升了检查器的透明度，还改善了用户对诊断建议的信任和理解。未来可以通过扩展应用范围和优化解释设计继续优化用户体验，提高医疗技术的可接受性。