社会规模的人工智能交互设计？医院和公司在精神健康护理中如何整合泛在感知技术

文献标题

Societal-Scale Human-AI Interaction Design? How Hospitals and Companies are Integrating Pervasive Sensing into Mental Healthcare

文献信息

• 主题领域: 人机交互设计、社会技术系统、人工智能在医疗中的应用
• 关键词: 人机交互设计、社会技术系统、人工智能、心理健康、医疗生态系统

研究背景与问题

• 问题或挑战:

  • 人工智能驱动的普适传感平台（Pervasive Sensing Platforms）在心理健康领域有很大潜力，但同时面临复杂的生态系统与社会技术动态，以及潜在的隐私和公平问题。
  • 在如何设计这种社会规模的人工智能平台使其最大化优势同时减少负面影响方面，存在方法上的局限性。
  • 平台设计者在实践中难以实现全面性心理健康平台的目标，设计实践常受限于特定数据来源、干预类型和评价指标。

• 重要性:

  • 心理健康问题在全球范围内日益严峻，AI技术有望在从日常健康监控到临床诊断和治疗等多个层面提供解决方案。
  • 无论从技术角度还是社会规模影响来看，心理健康中的AI应用是一个具有潜力但复杂性高的重要领域。

• 研究动机与相关工作:

  • 本研究旨在探讨心理健康AI平台设计者在实际设计中的方法，以及这些方法如何应对系统性的复杂性。
  • 此外，本文还比较了设计者与利益相关者（如患者与医生）之间的目标差异。

解决方案

• 方法:

  • 研究者通过访谈方式调查了心理健康技术平台的设计者、医生及患者，对设计者如何导航系统复杂性进行了全面分析。
  • 在访谈中收集了设计者的设计过程、问题应对策略，以及医生与患者视角下的真实需求。

• 创新点:

  • 提出围绕数据、干预类型以及系统效能评价三步骤设计心理健康AI平台的方法框架。
  • 揭示了AI与隐私、公平性之间的设计张力，强调在社会规模的AI系统设计中应综合考虑多主体、多层次的需求。

• 实施步骤与关键技术:

  • 步骤1: 数据来源多样化。设计者试图整合多种数据（临床评估数据、社交媒体数据、患者数字足迹等），以提高人工智能模型的诊断精度和可用性。
  • 步骤2: 干预方法多样化。目标是开发既涵盖日常心理健康建议，又包括临床治疗的全面干预AI系统。
  • 步骤3: 综合评价方法。采用细化的单个指标逐步建立平台效能，最终证明平台提高患者整体心理健康水平的能力。

研究成果

• 具体成果:

  • 描述了设计者当前的工作模式以及他们实现心理健康AI平台目标所遇到的挑战。
  • 明确指出设计实践中因数据来源、干预形式的局限性，以及评价指标单一性导致平台逐渐偏离全面性目标。

• 与现有解决方案的比较优势:

  • 本研究不仅关注技术实施，还深入探讨了设计实践中的社会伦理问题以及利益相关者之间的张力。
  • 为设计社会规模AI平台提供了具体的设计实践反馈及理论启发。

• 实验或评估结果:

  • 平台设计者的行动表明他们的目标与患者和医生的期望存在显著差异。例如，设计者倾向于减少患者与医生的面对面时间，而患者则希望更多直接互动。
  • 数据驱动的市场力量导致应用平台两极化（即面向消费者的应用与面向临床的应用各自孤立），加剧了医疗生态系统的碎片化。

• 局限性与未来方向:

  • 当前设计实践未能解决社会公平性问题，例如心理健康AI能否为少数群体或偏远地区提供更好的服务。
  • 缺乏评估系统整体效能的长远方法，可能影响对系统真正影响的判断。
  • 未来研究需要探索多层次、多主体协同的方法（如参与式设计与模拟设计），以进一步优化社会规模AI平台。