当你的治疗师是算法：理解人工智能在心理健康移动应用中的作用

文献标题

When Your Therapist Is an Algorithm: Understanding the Role of AI in Mental Health Mobile Applications

出版信息

• 主题领域: 人工智能在心理健康移动应用中的整合与用户体验。
• 关键词: 心理健康中的人工智能, 数字心理健康, 用户体验, 人工智能角色, 聊天机器人, 治疗支持, 对人工智能的信任, 伦理人工智能, 个性化, 应用设计。

背景与问题

• 问题 / 挑战: 尽管人工智能在心理健康应用中的整合日益增加，但对其实现方式、所扮演的角色以及用户对这些功能的感知和体验的理解仍然有限。现有研究尚未系统分析人工智能的功能角色或用户反馈。
• 重要性: 心理健康应用提供了可扩展、可访问的支持，但其有效性取决于用户的参与度、信任和伦理设计。理解人工智能的角色和用户感知对于改进这些技术和解决未满足的心理健康需求至关重要。
• 动机与相关工作: 先前的研究探讨了心理健康应用的可用性、可信度和内容质量，但并未聚焦于人工智能的具体角色或用户体验的矛盾。本研究通过绘制人工智能角色和分析用户反馈来填补这些空白，以指导更好的设计策略。

解决方案

• 提出的方法: 采用两阶段分析方法，结合对人工智能驱动的心理健康应用的系统性回顾和对用户评论的大规模分析，以绘制人工智能角色并理解用户感知。
• 创新性:
  1. 识别并分类心理健康应用中的12种独特人工智能角色。
  2. 对996条用户评论进行大规模情感和主题分析，揭示用户体验和矛盾。
  3. 提出针对人工智能整合中的核心矛盾（替代与补充、信任、增强）的设计建议。
• 流程与关键技术:
  1. 对Apple App Store中244款人工智能驱动的心理健康应用进行系统性回顾，以分类人工智能角色和界面类型。
  2. 对996条用户评论进行情感分析，以量化正面、负面和混合感知。
  3. 使用反思性主题分析（Reflexive Thematic Analysis, RTA）识别用户反馈中反复出现的矛盾和价值观。
  4. 基于研究发现制定设计建议。

研究结果

• 具体发现:
  • 识别出12种人工智能角色（如个人教练、追踪器、伴侣、总结者、治疗支持）和4种界面类型（隐形人工智能、聊天机器人、语音界面、具象化代理）。
  • 情感分析显示，功能性角色（如追踪器、教师）获得更多正面反馈，而关系性角色（如伴侣、治疗支持）则引发了混合或负面情绪。
  • 三种反复出现的矛盾：人工智能替代与补充人类护理的关系，对人工智能可靠性和伦理的信任，以及人工智能增强自我护理的有效性。
• 相较基线的优势: 本研究提供了人工智能角色和用户体验的全面映射，为设计具有同理心和可信赖的心理健康应用提供了可操作的见解。
• 实验 / 评估:
  • 数据集: 从Apple App Store收集的244款应用和996条用户评论。
  • 方法: 使用GPT-4o进行情感分析，并通过主题分析解读用户反馈。
  • 指标: 情感分布、主题模式和基于角色的用户体验。
• 局限性与未来工作:
  • 仅限于明确提及人工智能的应用和英文评论。
  • 研究聚焦于Apple App Store；未来工作可包括其他平台和多语言数据集。
  • 情感分析依赖于GPT-4o，可能引入分类变异；未来研究可比较多种分析方法。

总结

本研究系统分析了心理健康应用中人工智能的角色及用户对这些功能的感知。研究识别出12种人工智能角色和4种界面类型，揭示了人工智能替代人类护理、信任人工智能及其增强自我护理能力的矛盾。对996条用户评论的情感和主题分析强调了将人工智能设计为支持性、可信赖且适应性的伙伴，而非人类护理的替代品的重要性。研究结果为心理健康技术中伦理且有效的人工智能的人本设计策略做出了贡献。