超越语言的设计：面向英语能力有限群体的 AI 健康技术的社会技术障碍

文献标题

Designing Beyond Language: Sociotechnical Barriers in AI Health Technologies for Limited English Proficiency

出版信息

• 主题领域: 针对有限英语能力（LEP）人群的医疗技术中社会技术障碍与人工智能设计考量。
• 关键词: 医疗中的人工智能、有限英语能力、社会技术障碍、文化敏感性、患者导航员、数字素养、隐私问题、医疗公平、语言障碍、人工智能设计。

背景与问题

• 问题/挑战: 美国的LEP患者在医疗领域面临系统性障碍，这些障碍不仅限于语言问题，还包括文化误解、隐私问题以及低素养水平。现有的人工智能医疗技术通常未能解决这些问题，可能加剧医疗不公平。
• 重要性: 解决这些障碍对于改善美国超过2500万LEP人群的医疗服务获取和健康结果至关重要。这些人群因误诊、治疗依从性差以及沟通障碍而受到不成比例的影响。
• 动机与相关研究: 尽管数字健康技术和人工智能驱动工具（如翻译系统、聊天机器人）显示出潜力，但它们通常是为数字素养高、讲英语的用户设计的，忽视了文化和语言的细微差别。本研究基于现有工作，探索如何设计人工智能以公平支持LEP人群，重点关注西班牙语使用者。

解决方案

• 提出的方法: 本研究通过以故事板为驱动的访谈，调查了针对LEP医疗的人工智能设计考量。这些访谈对象为支持西班牙语LEP人群的患者导航员。
• 创新点:
  1. 识别LEP患者在医疗中面临的语言、文化和系统性障碍。
  2. 探讨人工智能在支持LEP患者体验中的潜在风险和机会。
  3. 提出人工智能工具设计指南，以促进文化敏感的医疗互动。
• 过程与关键技术:
  • 进行了14次以故事板为中心的患者导航员访谈。
  • 故事板展示了医疗场景中的假设人工智能使用案例。
  • 使用主题分析法分析访谈结果，识别障碍、风险和人工智能的机会。

结果

• 具体发现:
  • 语言障碍包括方言差异和对土著语言支持的不足。
  • 文化脱节，例如依赖传统疗法，阻碍患者向医生充分披露病情。
  • 低素养（阅读、数字和健康素养）限制了患者对数字健康工具的使用。
  • 隐私问题，尤其是无证移民群体，导致对技术的使用意愿降低。
• 相较基线的优势: 如果人工智能设计考虑文化和素养因素，它可以减少社会障碍（例如在人际互动中的尴尬）并缓解资源限制（例如口译员短缺、导航员工作负担）。
• 实验/评估:
  • 参与者识别了人工智能的机会，例如按需翻译和简化解释，同时也指出了风险，例如失去人际连接和错误信息传播。
  • 设计启示包括多模态界面、隐私保护模型和文化敏感的沟通风格。
• 局限性与未来工作:
  • 研究结果基于导航员的视角，而非直接的患者体验。
  • 故事板反映的是假设场景，而非实际观察到的行为。
  • 未来工作应包括与LEP患者和医疗提供者的参与式设计，以验证和扩展研究结果。

总结

本研究强调了西班牙语LEP患者在获取医疗服务时面临的社会技术障碍，并探索了人工智能技术如何应对这些挑战。通过对14名患者导航员的访谈，作者识别了语言、文化、素养和隐私方面的障碍，以及人工智能在改善沟通和医疗工作流程中的机会。然而，必须谨慎管理如失去人际连接和错误信息传播等风险。研究结果为文化敏感、隐私保护和可访问的人工智能工具设计提供了指导，未来工作需要直接让LEP患者参与设计过程。