它不能完成我的所有工作：印度农村社区卫生工作者对人工智能增强的移动健康应用程序的看法

文献标题

"It cannot do all of my work": Community Health Worker Perceptions of AI-Enabled Mobile Health Applications in Rural India

文献信息

• 主题领域: 人工智能（AI）在移动健康应用中的应用，以及人机交互在发展中地区的探索
• 关键词: 社区健康工作者, 人机交互 (HCI), 发展中国家信息通信技术 (ICTD), 人工智能 (AI), 移动健康 (mHealth)

研究背景与问题

• 问题与挑战:

  1. 近年来，人工智能在医疗保健领域的应用发展迅速，但它如何影响发展中国家中弱势社区仍知之甚少。
  2. 社区健康工作者（CHWs）在提供基本医疗服务中扮演关键角色，但AI是否会增进或阻碍他们的工作流程非常值得探讨。
  3. 现有研究主要关注AI技术的技术挑战，却忽视了使用这些技术的健康工作者对AI的理解及看法。

• 重要性:

  1. AI在低资源环境中的部署可能会导致效率低下甚至潜在的伤害，如果没有提前洞察其对关键用户（如CHWs）的影响。
  2. AI技术的广泛使用需要确保其实施符合当地社区的文化价值和需求。

• 研究动机:

  • 探索CHWs如何理解AI技术及其对AI技术可能的接受情况，为在发展中国家的人工智能技术应用提供实际反馈。

• 相关工作:

  1. 先前研究集中在AI在医疗领域的技术性能（如疾病检测和自动诊断）上，而对技术部署现场工作者的实际影响研究甚少。
  2. 对CHWs的研究已揭示了他们在支持低资源环境中的医疗服务中的重要性，但尚未调查他们对AI技术的看法及其未来应用的挑战。

解决方案

• 方法:

  • 对印度农村的21名社区健康工作者进行质性研究。
  • 使用探索性的视频触发，展示一个通过AI移动应用诊断小儿肺炎的情景，引导CHWs基于视频内容表达意见。其中设计两种情境视频，一种是积极使用情境，另一种则是质疑情境。

• 创新之处:

  1. 采用视频情景触发技术，结合定性访谈，首次全面研究了发展中国家社区健康工作者对AI的理解和期望。
  2. 探讨了CHWs如何看待AI对其工作效率和社区关系的潜在影响。

• 实施步骤:

  1. 将探索性情境视频发送给参与者，视频展示了CHWs使用AI应用的模拟场景。
  2. 参与者详细观看视频后参与面对面的40分钟半结构化访谈。
  3. 通过主题分析方法，提取访谈中的主要见解。

• 关键技术和工具:

  • 视频探讨法、质性访谈、主题分析。

研究成果

• 具体发现:

  1. AI知识: CHWs对AI技术了解较少，但他们倾向于将AI等同于人类智能，并期望AI技术能够扩展其能力。
  2. 工作效率: 使用AI可以提升CHWs的工作效率，例如提高疾病诊断准确性，减少人为错误。
  3. 社区信任: CHWs认为AI技术的应用可能提高社区对他们工作的信任，但在AI误诊时可能面临患者的信任危机。
  4. 数据使用: 参与者认为AI应用产生的数据对记录保存有用，但关于谁应访问这些数据有争议（例如政府、技术公司或患者）。
  5. 隐私与安全性: 多数CHWs不认为健康数据具有高隐私敏感性，对技术设计者在保护隐私数据上的责任抱有信任。

• 优势:

  1. AI可以为健康工作者提供学习机会，提高他们的技能，比如通过实时诊断技术了解新的健康知识。
  2. AI技术能够减轻部分日常任务负担，提升任务执行准确性，特别是在偏远或资源匮乏的环境中。

• 实验或评估结果:

  1. 多数CHWs表现出AI技术的接受意愿，但对可能的技术故障及其后果表现出担忧。
  2. 视频情景促成了关于AI在社区医疗情境下应用的重要讨论，揭示了机遇与复杂交织的挑战。

• 局限性与未来方向:

  1. 局限性: 研究参与者局限于印度农村，而结果可能难以完全外推到其他地区。
  2. 未来方向:
     • 增加跨文化研究，比较不同地区CHWs对AI技术的看法。
     • 探索更广泛的技术训练和支持策略，使CHWs更好地适应AI增强型工作环境。
     • 发展更加适合低资源环境的AI解释性模型，帮助非技术用户直观理解AI功能和结果。

结论

通过对印度农村社区健康工作者的质性研究，本论文探讨了AI集成对医疗服务整体影响的潜在可能性。研究指出，尽管AI对工作流程和社区信任方面带来了好处，但本地化、解释性、文化敏感性和技术支持的不足可能导致重大挑战和风险。