美国心理健康护理中情感人工智能的应用：潜在不公与技术解决主义

DOI

情感人工智能——即从各种数据源推断情绪状态的AI——正越来越多地应用于多种情境，包括心理健康护理。虽然情感人工智能因其在改善护理和诊断方面的潜力而受到赞誉，但我们对直接受其整合影响的受数据主体的看法知之甚少。本文我们定性分析了美国成年人对情感人工智能在心理健康护理中应用的开放式调查回复（N=395），以检验他们对其及其对作为数据主体的潜在影响的看法。我们发现对情感人工智能在心理健康护理中应用的感知影响涉及：1）心理健康护理供给；2）数据主体的声音；3）监测数据主体以防止潜在伤害；4）相关方对心理健康推断的理解和使用。参与者 remarks 强调了情感人工智能可能解决数据主体面临的现有挑战的方式，包括：1）改善心理健康护理评估、诊断和治疗；2）促进数据主体披露心理健康信息；3）识别潜在的数据主体自残或伤害他人的行为；4）增进相关方对心理健康的理解。然而，参与者也描述了他们对情感人工智能对数据主体潜在负面影响的看法，包括：1）增加不准确和有偏见的评估、诊断和治疗；2）减少或移除数据主体在心理健康护理过程中与 providers 的声音和互动；3）不准确地识别潜在的数据主体自残或伤害他人行为，对健康造成负面影响；4）相关方滥用情感人工智能推断，影响（优质）心理健康护理的获取和数据主体的隐私。我们讨论了我们的发现如何表明心理健康护理中情感人工智能的使用是一种不足的「技术解决方案」，可能会加剧各种心理健康护理挑战，对潜在的分配性、程序性和交互性不公产生影响，并对边缘化群体产生可能不同的影响。