使用大型语言模型聊天机器人进行心理健康支持的LGBTQ+人群体验评估

文献标题

Evaluating the Experience of LGBTQ+ People Using Large Language Model Based Chatbots for Mental Health Support

文献信息

• 主题领域: 人工智能在心理健康支持中的社会技术挑战，特别面向LGBTQ+群体的应用
• 关键词: 大型语言模型 (LLM), 聊天机器人, LGBTQ+, 心理健康, 性别身份, 社会性偏见, 人机交互, 技术伦理

研究背景与问题

• 发现的问题或挑战:

  • LGBTQ+ 人群心理健康状况较差，显著高于异性恋且性别认同为顺性别的同龄人（如抑郁率和自杀意念的比例）。
  • LGBTQ+ 个体面临日常的偏见、歧视以及社会污名，这些因素导致他们难以获得传统心理健康支持。
  • 尽管基于大型语言模型的聊天机器人（如ChatGPT）为LGBTQ+社区提供即时和隐秘的心理健康支持，但平台上的内嵌偏见可能固化对LGBTQ+的刻板印象。
  • 缺乏关于这些聊天机器人是否能够有效、安全地提供充分的LGBTQ+专属心理支持的深入研究。

• 研究的重要性:

  • 随着人工智能的发展，这些技术为边缘化人群提供了潜在的支持体系，但其风险与局限性对用户心理健康影响显著。
  • LGBTQ+ 社区的心理健康需求复杂且具有特异性，需要更好适配的技术解决方案。

• 研究动机与相关工作:

  • 现有的在线支持技术和心理健康应用程序对LGBTQ+群体的重视不足。
  • 纵使聊天机器人在提供心理抚慰方面有所进展，但在应对社会偏见以及敏感话题上的作用仍未明确。

解决方案

• 研究方法:

  • 对18名LGBTQ+与13名非LGBTQ+用户进行访谈，探索他们使用基于LLM的聊天机器人进行心理支持的体验。
  • 研究关注参与者如何利用这些技术以及它们的优势和缺陷。

• 研究问题：

  1. LLM如何为LGBTQ+人群的心理健康支持提供价值？
  2. LGBTQ+个体是否有不同于非LGBTQ+群体的使用目的？
  3. LLM能否满足LGBTQ+人群在其性别与身份相关话题上的支持需求？

• 实施步骤与技术:

  • 深入访谈和开放式编码分析，从参与者描述中提取主要主题。
  • 比较LGBTQ+与非LGBTQ+参与者的聊天机器人使用体验，考察特定的社会技术问题。

研究成果

• 主要发现:

  • LLM聊天机器人提供了即时支持、高可用性，并成为用户进行亲密对话、练习社交技巧的安全空间。
  • LGBTQ+用户利用聊天机器人探索身份、排练出柜经历，并寻求对抗歧视的指导。
  • 与此同时，这些机器人输出的信息通常过于通用，无法深入理解LGBTQ+的个性化需求，甚至可能提供误导性或危险的建议。
  • LGBTQ+参与者提到，缺乏现实中的支持是依赖聊天机器人的主要动机，这表明社会偏见在很大程度上导致了他们对人工智能支持的需求。

• 局限性与未来方向:

  • 局限性：

    1. LLM聊天机器人缺乏对LGBTQ+身份复杂性的理解，体现在缺乏个性化响应和情感共鸣。
    2. 偏向主流语料库的训练数据带来了偏见，忽视了少数群体的需求。
    3. 过度依赖聊天机器人可能延迟专业心理健康支持的获取。

  • 未来方向：

    1. 技术优化:
       • 利用更具背景信息的对话保护规则，避免在敏感问题上生成危险建议。
       • 对LLM进行更适配的微调，以便更能反映LGBTQ+特定的现实背景和需求。
       • 开发适用于特定场景的轻量化模型，而非继续扩大通用LLM的规模。
    2. 去中心化的技术发展:
       • 将LLM开发分散化，使社区能够在技术设计中拥有更多话语权。
    3. 社会技术解决方案:
       • 改善数字空间中的包容性，并通过教育使社区内的关键角色（如在线平台的管理员）成为LGBTQ+友好的倡导者。
       • 强调比技术优化更重要的优先事务，即解决社会对LGBTQ+的污名和歧视。

• 关键优势与独特贡献:

  • 本研究展示了LLM在为边缘化群体（如LGBTQ+个体）提供心理健康帮助中的潜能，同时还揭示了这些技术的社会伦理问题。
  • 作者主张从技术与社会两方面综合改善，以为LGBTQ+社区构建更安全、更有效的支持环境。