人工智能的医疗权威性：一项关于面向消费者的AI医疗技术的研究

文献标题

基于AI的医疗权威性：AI赋能消费者面向健康技术的研究

文献信息

• 主题领域: 人机交互（HCI）与医疗信息学
• 关键词: 医疗权威性，人工智能，症状检查器，消费者面向健康技术，人机交互

研究背景与问题

• 研究背景:

  • 随着技术的发展，消费者对于医疗权威性的认知发生了变化。在传统医疗实践中，医生和专家被视为权威，而如今，基于人工智能（AI）的症状检查器（AISCs）开始承担提供潜在疾病诊断的角色。
  • 当前的消费者面向行业中，AISCs在全球范围内逐渐流行，仅在美国，2019年此类技术被使用超过1亿次。
  • 尽管AI技术在临床实践中的准确性常由专业医学界评估，但消费者面对的AI健康技术可能由于用户的医疗知识有限而无法被有效评估。

• 核心问题:

  • AISCs是否以及如何改变了医疗权威性的传统定义？
  • 用户如何评估AISCs的权威性，以及这种权威性如何分布在医疗生态系统中？

• 研究动机与相关工作:

  • 人们可能对AISCs的诊断结果过度信任，从而可能导致使用不准确的诊断结果并带来潜在风险。
  • 現有研究多集中于AISCs的准确性和可用性，但对这些技术如何影响用户对医疗权威性的感知和体验研究甚少，这使得设计改良策略变得困难。

解决方案

• 研究方法:

  • 通过对来自中国的30位AISC用户进行半结构化访谈，研究用户如何理解和评估AI健康技术的权威性。
  • 分析用户的互动、感知和医患决策行为。
  • 总结AISCs与传统医疗权威性之间的差异，并揭示AISCs在医疗生态系统中的作用。

• 实施步骤与技术:

  1. 选择研究对象：中国的流行AISCs应用（如“健康之手医生”、“春雨医生”等），分析其功能设计与背景。
  2. 数据收集：通过社交媒体和雪球抽样进行参与者招募，并进行访谈，收集用户关于使用AISCs的体验、感知和行为数据。
  3. 数据分析：采用归纳的主题分析法，识别访谈中的主要模式和主题（如对权威性的感知来源、交互过程中权威性的动态变化）。

• 创新点:

  • 从用户角度探讨医疗权威性，而不是单纯基于专家观点对AISCs的评估。
  • 强调交互设计与社会技术网络在定义AI医疗权威性上的影响。
  • 扩展了关于AI在医疗领域影响的认知，揭示了AISCs如何动摇和分布医疗权威。

研究成果

• 具体成果:

  • 用户通过确认AISCs的背后支持实体（如医院、公司）以及互动设计（输入、问诊问题设计、内容表现）构建了对AISCs的权威性判断。
  • 用户使用AISCs进行信息交叉验证与社交网络资源对比，以调整自己的医疗决策。
  • 医疗权威性不仅取决于技术本身，还通过分布在整个医疗生态系统内的实体（如医生、医院、搜索引擎等）共同构建和分布。

• 优势:

  • 描述了医疗权威的分布式网络，并揭示了AISCs在患者健康管理实践中的补充角色。
  • 强调了AI系统的设计如何影响用户对其权威性的认知。

• 实验与评估结果:

  • 用户更倾向于选择由权威机构支持的AISCs应用（如医院或信赖的企业开发的应用）。
  • 用户有时通过AISCs的结果与医生实际诊断进行交叉验证，以赋予AISCs以及传统医疗权威更大的信任度。

• 局限性与未来方向:

  • 当前AISCs缺乏明确的责任机制和追踪患者后续问题的能力。
  • 消费者对症状检查器的评估易受到他们自身知识、经验和身体感受的影响。
  • 需要进一步研究AI医疗系统的透明度、算法问责机制以及从患者需求出发的存在方式。

设计与实践建议

• 增强透明度，通过显示开发者、支持机构以及数据来源等信息，提升AISCs的权威性和可信度。
• 改进互动设计，如使症状输入和问题设计更具灵活性并模仿传统权威诊断过程。
• 提供患者指导和警告，使用户认识到其自身对诊断信息正确性的判断能力可能不足。
• 将AISCs视为患者自我健康管理和促进临床实践的工具，加强用户体验与医学结果的结合。

总结

• 本研究通过访谈揭示了AI赋能的消费者面向健康技术如何影响用户对医疗权威性的评估和互动体验。这一领域的未来研究应关注AI医疗技术逐步进入医疗实践后可能面对的伦理、透明度、问责机制及相关监管框架。