为心理健康进行 AI 负责任设计：AI 作为专科护理、营养补充剂还是瑜伽教练？

文献标题

Framing Responsible Design of AI for Mental Well-Being: AI as Primary Care, Nutritional Supplement, or Yoga Instructor?

出版信息

• 主题领域: 面向心理健康福祉的人工智能工具的责任设计与评估。
• 关键词: AI伦理、心理健康福祉、大型语言模型、责任设计、健康政策、数字治疗、用户安全、初级医疗、营养补充剂、瑜伽类比。

背景与问题

• 问题/挑战: 像ChatGPT这样的非临床大型语言模型工具在心理健康福祉领域的使用日益增多，但其益处和风险尚未被充分理解，缺乏明确的框架来指导其责任设计与评估。
• 重要性: 这些工具可能缓解心理健康护理资源短缺，但同时也存在风险，例如延迟临床护理、助长对心理健康的过于简化的认知，以及加剧不平等。
• 动机与相关研究: 先前研究已识别出这些工具的潜在益处和危害，但缺乏可操作的责任设计框架。目前行业努力（如FDA审批或检测与警告功能）已被证明不够充分或不切实际。

解决方案

• 提出的方法: 提出一个针对非临床大型语言模型工具的责任设计框架，使用营养补充剂、非处方药、瑜伽教练和初级医疗提供者的类比来明确责任和风险。
• 创新点:
  1. 引入类比方法，根据工具的保证益处和目标用户来框定其责任。
  2. 提出责任设计的三个标准：具体的保证益处、有效传递活性成分，以及风险与益处的相称性。
  3. 强调不同类型大型语言模型工具的独特风险和责任。
  4. 提供针对不同工具设计的定制化评估标准。
• 程序与关键技术:
  • 进行了24次跨AI伦理、健康政策和临床领域的专家访谈。
  • 分析了超过100份政策文件以为研究提供背景。
  • 通过额外的专家讨论进一步完善研究结果。

结果

• 具体发现:
  • 责任设计取决于工具的保证益处（例如，整体福祉与特定症状缓解）及其传递经过验证的活性成分的能力。
  • 类比初级医疗或非处方药的工具必须优先考虑安全性、有效性和公平获取。
  • 类比营养补充剂或瑜伽教练的工具必须防止误用、过度使用以及替代临床护理或必要的自我护理。
• 相较基线的优势:
  • 提供了可操作的责任设计标准，弥补了现有框架的不足。
  • 明确了工具创建者、模型开发者和用户的不同责任。
• 实验/评估:
  • 专家访谈显示，明确益处、确保有效传递以及平衡风险与益处的重要性得到了共识。
  • 政策分析识别了可从医疗、补充剂和瑜伽指导中转移的监管原则。
• 局限性与未来工作:
  • 专家对可接受风险水平和类似营养补充剂工具的责任存在分歧。
  • 未来研究应探索更高标准的责任设计，并从公共健康和基于权利的视角评估工具。

总结

本文提出了一个针对心理健康福祉的非临床大型语言模型工具的责任设计框架，使用补充剂、药物、瑜伽教练和初级医疗提供者的类比。框架强调了三个标准：具体的保证益处、有效传递活性成分，以及风险与益处的相称性。研究结果基于专家访谈和政策分析，为设计者和监管者提供了可操作的指导。未来工作应解决关于风险评估的未解争议，并探索创新的设计和监管策略。