从症状到系统：专家指导的方法理解生成式人工智能对进食障碍的风险

文献标题

From Symptoms to Systems: An Expert-Guided Approach to Understanding Risks of Generative AI for Eating Disorders

出版信息

• 主题领域: 生成式人工智能在心理健康领域的风险，特别是饮食失调。
• 关键词: 生成式人工智能，饮食失调，心理健康，风险分类法，瘦身激励，人工智能安全，临床洞察，数字技术，用户脆弱性，参与式评估。

背景与问题

• 问题/挑战: 当前生成式人工智能系统中的安全措施未能有效应对对饮食失调易感人群的细微但临床上显著的风险。现有的评估方法往往忽视了这些细微且情境特定的风险。
• 重要性: 饮食失调是一种威胁生命的疾病，而生成式人工智能系统可能通过有害输出、刻板印象的延续以及对失调行为的强化来加剧这些脆弱性。
• 动机与相关研究: 先前的研究广泛探讨了人工智能的风险以及数字技术对饮食失调的影响，但这些研究缺乏临床基础和情境敏感的分类法。本文基于社会技术和人机交互（HCI）研究，通过引入领域专家来填补这一空白。

解决方案

• 提出的方法: 开发一个由专家指导的生成式人工智能饮食失调风险分类法，该分类法基于对15位临床医生、研究人员和倡导者的半结构化访谈。
• 创新点:
  1. 创建一个包含七个饮食失调特定风险类别的分类法。
  2. 识别生成式人工智能如何放大现有风险并引入新的危害路径。
  3. 展示在设计情境相关的安全评估时，早期与领域专家合作的重要性。
• 程序与关键技术:
  • 对15位饮食失调领域专家进行了半结构化访谈。
  • 使用溯因定性分析方法识别并分类风险。
  • 基于专家反馈和现有研究反复优化分类法。
  • 开发了七个风险类别：泛化的健康建议、鼓励失调行为、症状掩饰、瘦身激励、强化负面自我认知、过度关注身体，以及延续对饮食失调的狭隘看法。

结果

• 具体发现:
  • 确定了七个风险类别，每个类别都有具体示例（例如，人工智能提供卡路里估算、提供瘦身激励图片或强化负面自我认知）。
  • 人工智能系统可能无意中验证扭曲的思维方式、放大文化偏见并创造有害的反馈循环。
• 相较基线的优势:
  • 该分类法提供了比现有人工智能风险评估更细致且临床知情的框架，后者往往对脆弱人群的风险进行泛化或误判。
• 实验/评估:
  • 通过15位专家访谈获得了定性洞察。
  • 分析了真实世界中人工智能输出的示例（例如，BMI建议、瘦身激励图片）以说明风险。
• 局限性与未来工作:
  • 未包括有饮食失调亲身经历的个体，因此对真实世界互动的洞察有限。
  • 未系统性评估当前人工智能系统中已识别风险的普遍性。
  • 未来研究应采用参与式方法，吸纳多元利益相关者，并开发可操作的风险评估指标。

总结

本研究识别并分类了生成式人工智能系统对饮食失调易感人群构成的风险，创建了一个包含七个关键风险领域的分类法。通过专家访谈和定性分析，研究强调了人工智能交互如何通过有害输出、文化偏见和反馈循环加剧脆弱性。该分类法为评估和缓解这些风险提供了一个临床基础的框架，同时强调了在人工智能安全设计中与领域专家合作的重要性。未来工作应聚焦于参与式研究、系统性评估以及针对性干预措施的开发，以确保人工智能系统对高风险用户的安全性和支持性。