理解生成式AI聊天机器人在社交焦虑支持方面的态度和信任

对话式聊天机器人大语言模型(LLM)的人机协作心理健康应用与在线支持社区精神科医生与心理咨询师社区健康工作者HCI 研究员

研究背景与问题

  • 发现的问题或挑战: 社交焦虑症 (Social Anxiety, SA) 越来越普遍,而传统心理健康支持方法面临专业人员不足、健康护理限制、以及可及性差的问题。此外,尽管生成式人工智能 (Generative AI, GenAI, 如智能聊天机器人) 提供了新的互动平台,其在心理健康应用中的信任和有效性仍存疑,尤其在SA支持中的信任动态尚未详细探究。
  • 研究重要性: 了解个人对GenAI聊天机器人在SA支持中的态度与信任, 对于技术设计、用户采纳及心理健康干预手段的创新至关重要。
  • 研究动机与相关工作: 尽管已有研究探讨了AI在心理健康领域的可信性提升手段,多数聚焦于模型本身的可靠性和透明性,而忽视了信任如何因用户的个人经验和应用情境而变化。因此,研究尝试填补SA用户中GenAI信任感形成的动态方面的研究空白。

解决方案

  • 方法或解决方案: 本研究采用混合方法,综合调查和访谈,深入探讨用户对GenAI聊天机器人在SA支持中的信任及使用意愿。
    • 调查部分:对159名参与者进行问卷分析,了解社交焦虑的严重程度、与GenAI的过往交互、以及对其信任和使用意愿的关系。
    • 访谈部分:对17名分组参与者进行深入半结构化访谈,以揭示信任和态度形成的细微特点。
  • 创新之处:
    1. 提出并验证了SA支持背景下的多维信任测量(包括情感性信任和认知性信任)。
    2. 区分了基于症状严重程度和使用经验的用户信任与采纳意愿差异。
    3. 结合量化分析与质性分析揭示信任动态的多维特性,包括技术信任与情感支持的优先排序因素。
  • 实施步骤和关键技术:
    1. 设计和实施SPIN量表用于测量SA严重程度。
    2. 调查问卷分析中结合克鲁斯卡尔-沃利斯检验和线性回归预测信任与愿意采纳的关系。
    3. 应用高斯混合模型 (GMM) 聚类识别不明确态度群体的特征。
    4. 访谈结果运用通用归纳法进行编码和主题分析。

研究成果

  • 具体成果:
    • 信任与使用意愿: 信任与使用意愿之间存在显著正相关,尤其在SA症状严重者中。
    • 信任类型:
      1. 情感信任(Emotional Trust): 对SA症状严重者,用户受GenAI聊天机器人的同理心和非评判的对话语气所吸引。这类用户更注重对工具的情感性支持,如安慰及情绪理解。
      2. 认知信任(Cognitive Trust): SA症状较轻者更强调对GenAI的技术性可行性,例如信息准确性、模型可靠性及技术透明性。
    • 体验差异: 有长期GenAI使用经验的用户更倾向采纳,而未参与过该技术的用户则犹豫更大。
    • 用户分类: 使用GMM分析发现中立态度者的三类特性群体:
      1. 高严重度SA用户,依赖情感支持。
      2. 长期高频使用但症状程度较轻者;注重技术反馈。
      3. 缺乏特定使用目的的偶然用户;与SA支持无强关联。
  • 与现有解决方案的比较和优势:
    • 相较单维度的信任研究,本研究提出信任的情境化模型,具体解析了信任在情感与认知维度上的分层机制。
    • 针对SA的具体心理健康需求,提供了更加细致的支持策略建议。
  • 实验或评估结果:
    • 问卷调查和访谈均验证了GenAI工具在SA支持中的潜力,但技术出的如AI“幻觉”(hallucination)和记忆不足等限制需要关注。
    • 症状越严重的参与者对GenAI的信任与接受程度越高,这与必要性驱动密切相关。
    • 长期和高频用户表现出更高的信任, 反映了使用经验对采纳意愿的影响。
  • 局限性与未来方向:
    • 局限性:
      1. 基于自评数据,存在主观偏好或记忆错误的可能。
      2. 样本人口学较为集中,可能影响结果的可推广性。
      3. 未考虑文化差异对信任形成的潜在影响。
    • 未来研究方向:
      1. 对情感信任设计与优化的深入探索,提升用户体验与长期效果。
      2. 跨文化比较研究验证信任动态中的普适性。
      3. 引入生理和行为数据量化情感信任的建立过程。
      4. 探索AI与人类心理治疗师在协作中的新范式,解决技术应用的伦理风险。

通过这些成果,该研究为未来精神健康技术的设计与实施提供了关键参考,也丰富了AI和人类信任动态相关的研究。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/188256/2025

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/10.1145/3706598.3714286
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2025
emoji_events
奖项
未标记奖项
group
作者
4 位作者
sell
研究子方向
对话式聊天机器人、大语言模型(LLM)的人机协作、心理健康应用与在线支持社区
work
职业/产业
精神科医生与心理咨询师、社区健康工作者、HCI 研究员
article
内容状态
已索引正文
hub
相关论文
8 篇相关论文