希望还是危机？探索黑人成年人对人工智能在健康环境中使用的看法

文献标题

Promise or Peril? Exploring Black Adults' Perspectives on the Use of Artificial Intelligence in Health Contexts

出版信息

• 主题领域: 黑人群体对医疗领域人工智能的看法及其对健康公平的影响。
• 关键词: 人工智能，健康公平，种族偏见，黑人社区，参与式设计，医疗创新，健康差距，心理健康，结构性障碍，定性研究。

背景与问题

• 问题/挑战: 尽管黑人社区面临显著的健康不平等问题，并且人工智能可能加剧或缓解这些差距，但关于黑人群体对医疗人工智能看法的研究仍然有限。
• 重要性: 理解这些看法对于设计能够解决结构性障碍和健康不平等问题的公平人工智能系统至关重要。
• 动机与相关研究: 先前的研究记录了医疗和人工智能系统中的种族偏见，以及参与式方法在技术设计中的重要性。然而，目前缺乏关于黑人成年人对医疗人工智能态度的全面研究，尤其是在其解决健康公平问题中的作用方面。

解决方案

• 提出的方法: 通过对18名黑人成年人进行混合方法研究，包括问卷调查和定性研讨会，探讨他们对医疗人工智能的看法及其在支持健康公平方面的潜力。
• 创新性:
  1. 描述了黑人成年人对医疗人工智能的细致态度，从乐观到怀疑不等。
  2. 识别了健康公平的结构性障碍，以及参与者对人工智能在解决或加剧这些障碍中的作用的看法。
  3. 引入了将医疗人工智能视为“护甲”的概念，用以抵御系统性医疗偏见。
  4. 提出了一个框架，用于应对医疗人工智能设计中的预期、非预期和不可避免的危害。
• 程序和关键技术:
  • 通过研讨会前的问卷调查评估参与者对人工智能和健康公平的态度。
  • 举办三场线下研讨会，与参与者讨论医疗人工智能场景、问卷结果以及健康公平的结构性障碍。
  • 使用主题分析法从16.5小时的研讨会讨论中提取关键主题。

结果

• 具体发现:
  • 61%的参与者认为人工智能会改善健康结果，高于全国调查报告的38%。
  • 83%的参与者认为医疗中的种族偏见是一个重大问题，而全国数据为35%。
  • 参与者对人工智能在疼痛管理、心理健康聊天机器人和皮肤癌筛查中的作用表达了复杂的情感。
  • 人工智能被视为一种潜在工具，可以对抗医疗偏见并改善医疗服务的可及性，但同时也可能因设计和实施中的偏见而带来潜在危害。
• 相较基线的优势:
  • 与全国调查的受访者相比，参与者对人工智能在解决健康不平等问题上的潜力更加乐观。
  • 更加关注医疗人工智能的结构性和社区导向意义。
• 实验/评估:
  • 研讨会探讨了参与者对特定医疗场景中人工智能的态度（如疼痛管理、心理健康、皮肤癌筛查）。
  • 将问卷调查结果与全国数据进行比较，以突出看法的差异。
• 局限性与未来工作:
  • 研究集中于美国东南部一个大都市地区的小样本（n=18），限制了结果的普适性。
  • 未来研究应探讨种族、性取向及其他身份交叉点对医疗人工智能态度的影响。
  • 社区组织、医疗服务提供者和技术公司之间的合作对于将研究发现转化为实践至关重要。

总结

本研究探讨了黑人成年人对医疗人工智能的看法，既强调了其在解决健康不平等问题上的潜力，也指出了其风险。参与者认为人工智能是一种可以对抗医疗偏见并改善服务可及性的工具，但同时对其成熟度及可能加剧系统性不平等的问题持怀疑态度。研究结果强调了在医疗人工智能设计中吸纳边缘化社区参与的重要性，并提出了一个框架以应对预期、非预期和不可避免的危害。未来工作应关注更广泛的交叉性研究，并促进合作以确保健康人工智能的公平创新。