陷入黑帮浪漫：用户如何与聊天机器人探索亲密叙事

文献标题

Caught in a Mafia Romance: How Users Explore Intimate Narratives with Chatbots

出版信息

• 主题领域: 基于角色的人工智能聊天机器人在亲密和叙事角色扮演中的用户交互。
• 关键词: AI聊天机器人, Character.AI, 亲密角色扮演, 叙事探索, 数字安全, 用户生成内容, 权力动态, 粉丝文化, 虚拟社交关系, 生成式AI。

背景与问题

• 问题/挑战: 现有研究尚未充分探讨用户为何使用基于角色的聊天机器人、他们创建的叙事类型以及面临的挑战。随着聊天机器人平台的快速发展及其社会整合，这一研究空白显得尤为重要。
• 重要性: 理解用户动机和挑战对于设计更安全、更有效的聊天机器人平台至关重要，尤其是在有害行为、不适当内容以及情感过度依赖的潜在风险方面。
• 动机与相关研究: 先前研究表明，聊天机器人可以提供情感支持、促进社交技能以及实现性探索，但同时也可能表现出有害行为并强化不良刻板印象。像Character.AI这样的平台允许用户生成角色，但关于用户动机和交互动态的研究仍然不足。

解决方案

• 提出的方法: 采用混合方法研究，包括对Character.AI聊天机器人描述的大规模分析（5.76百万个机器人）以及对2,078篇Reddit帖子中用户体验的主题分析。
• 创新点:
  1. 确定聊天机器人的两个主要使用场景：亲密角色扮演和叙事探索。
  2. 分析聊天机器人交互中的权力动态、暴力和不健康依附关系。
  3. 提供迄今为止最大的Character.AI聊天机器人数据集，并用于研究目的。
  4. 提供关于用户挑战的洞察，包括不匹配的性内容和强迫性使用平台的问题。
• 流程与关键技术:
  • 抓取并分析了5.76百万个聊天机器人描述，重点关注流行和具有代表性的样本。
  • 对Reddit讨论进行了主题分析，以理解用户动机、体验和挑战。
  • 使用AI辅助分析从聊天机器人描述中提取人口统计和叙事特征。

结果

• 具体发现:
  • 63%的流行聊天机器人被设计用于亲密角色扮演，其中涉及权力不平衡的占26%，涉及暴力主题的占22%。
  • 39%的流行聊天机器人基于粉丝文化角色，常见场景包括有组织犯罪（8%）和学校（20%）。
  • 用户报告对过多的性内容感到沮丧，同时对性互动的限制性过滤器感到不满。
  • 20%的聊天机器人描绘年龄在13至17岁的角色，引发了关于涉及未成年人的交互的担忧。
• 相较基线的优势: 提供了对用户动机和挑战的全面理解，超越了以往仅关注聊天机器人陪伴或技术方面的研究。
• 实验/评估:
  • 分析了2,468个流行和普通样本的聊天机器人描述。
  • 对Reddit帖子进行了主题编码，以捕捉用户体验和感知。
  • 使用人工注释验证了AI辅助的人口统计分析（准确率93.33%）。
• 局限性与未来工作:
  • 仅关注英语聊天机器人和美国数据，未涉及非英语和区域限制内容。
  • 未分析实际的聊天机器人用户交互，仅研究了创作者定义的描述。
  • 未来研究应探讨聊天机器人交互如何影响用户行为，以及用户如何发现并使用特定机器人。

总结

本研究探讨了用户如何在Character.AI平台上与基于角色的聊天机器人交互，揭示了两个主要使用场景：亲密角色扮演和叙事探索。研究强调了聊天机器人描述中权力不平衡、暴力以及基于粉丝文化的叙事的普遍性，同时指出了用户对不匹配性内容和强迫性使用平台的挫败感。研究结果凸显了设计更细致的数字安全功能和问责机制的必要性，尤其是在平台吸引年轻用户的背景下。通过提供迄今为止最大的Character.AI聊天机器人数据集，本研究为未来关于生成式AI在亲密和叙事语境中的伦理和社会影响研究奠定了基础。