通过自我报告的Reddit叙述理解青少年对AI伴侣聊天机器人的过度依赖

文献标题

Understanding Teen Overreliance on AI Companion Chatbots Through Self-Reported Reddit Narratives

出版信息

• 主题领域: 青少年行为模式及与AI伴侣聊天机器人相关的风险。
• 关键词: AI伴侣、青少年、行为成瘾、准社会关系、聊天机器人设计、过度依赖、心理健康、脱离、情感依附、CARE框架。

背景与问题

• 问题/挑战: 对青少年如何与AI伴侣聊天机器人互动的理解有限，特别是关于过度依赖及其后果的研究。现有研究主要集中于成年人或其他数字技术（如社交媒体和游戏），对青少年特定动态的理解存在空白。
• 重要性: 青少年时期对AI伴侣的过度依赖可能会干扰情感和认知发展，导致学业下降、社交退缩和情感困扰等问题。理解这些模式对于设计更安全的系统至关重要。
• 动机与相关研究: 之前的研究探讨了游戏和社交媒体中的行为成瘾，以及与媒体人物的准社会关系。然而，对于这些框架如何适用于青少年与生成式AI聊天机器人的互动知之甚少，而这些机器人提供了高度吸引人、类人化的对话。本研究通过聚焦青少年与Character.AI的互动经验来填补这一空白。

解决方案

• 提出的方法: 对318条来自青少年（13至17岁）在Reddit上讨论Character.AI体验的帖子进行定性分析。研究引入了CARE框架（全面需求、依附意识、尊重同理心、退出便利性），以指导更安全的聊天机器人设计。
• 创新点:
  1. 通过行为成瘾组件映射，实证性地分析青少年对AI伴侣过度依赖的披露。
  2. 识别青少年与AI互动中特有的情感动态，如模拟亲密感和强烈依附。
  3. 引入CARE框架，用于设计保护自主性且适合发展阶段的AI平台。
• 过程与关键技术:
  • 数据收集：从r/CharacterAI子版块抓取6,133条帖子，使用GPT-4o mini进行年龄推断并手动验证后筛选出318条帖子。
  • 分析：结合归纳和演绎方法的主题编码，以Griffiths的行为成瘾模型和依附理论为指导。
  • 道德考量：对帖子进行匿名处理，摘录内容进行改写，并排除已删除或敏感内容以保护用户隐私。

结果

• 具体发现:
  • 青少年主要因情感支持（12.3%）、孤独感（7.6%）和心理健康问题（4.1%）使用Character.AI，同时也用于创意表达（3.1%）和娱乐（2.5%）。
  • 观察到的行为成瘾组件包括冲突（18.9%）、显著性（13.5%）、戒断（6.9%）、耐受性（4.1%）、复发（4.7%）和情绪调节（4.1%）。
  • 后果包括睡眠紊乱、学业下降和关系紧张。
• 相较基线的优势: 提供了以青少年为中心的视角来探讨AI伴侣过度依赖问题，填补了现有关于游戏、社交媒体和成人聊天机器人使用的研究空白。
• 实验/评估:
  • 数据集：318条来自自称青少年用户讨论Character.AI的Reddit帖子。
  • 指标：行为成瘾组件、参与和脱离模式的主题分析。
  • 验证：评估者间一致性（Cohen’s kappa = 0.74）和模型一致性（kappa = 0.95）。
• 局限性与未来工作:
  • 仅关注单一平台（Character.AI），限制了研究的普适性。
  • 数据集可能过度代表选择公开发帖的反思型用户。
  • 缺乏人口统计多样性和跨文化视角。
  • 未来研究应比较不同平台，采用混合方法，并探索跨文化差异。

总结

本研究探讨了青少年对AI伴侣聊天机器人的过度依赖，揭示了行为成瘾和情感依附的模式。青少年使用聊天机器人进行情感支持、创意表达和陪伴，但许多人面临日常生活的干扰并难以脱离。研究引入了CARE框架，以指导更安全的聊天机器人设计，强调全面需求、依附意识、尊重同理心和退出便利性。研究结果突出了以青少年为中心的同理心设计方法的必要性，并呼吁进一步研究多样化用户体验和平台比较。