与AI伴侣协商数字身份：动机、策略与情感结果

文献标题

Negotiating Digital Identities with AI Companions: Motivations, Strategies, and Emotional Outcomes

出版信息

• 主题领域: 身份协商与与AI伴侣的情感交互。
• 关键词: AI伴侣、身份协商、情感依赖、Character.AI、人机交互、主题分析、社会情感沙盒、聊天机器人角色、情感调节、粉丝文化。

背景与问题

• 问题/挑战: 现有研究已探讨了AI伴侣的心理影响和伦理挑战，但尚未充分研究用户如何呈现自己的身份以及如何配置AI角色以满足社会情感需求。
• 意义: 理解与AI伴侣的身份协商对于缓解诸如不健康的情感依赖等风险以及设计更安全、更具情感支持的AI系统至关重要。
• 动机与相关工作: 之前的研究集中于AI伴侣的心理益处（例如减少孤独感）和风险（例如情感依赖）。然而，与AI伴侣，特别是在Character.AI平台上的身份构建和协商过程仍未被充分探讨。

解决方案

• 提出的方法: 将三阶段身份协商框架应用于Character.AI交互，并通过身份协商理论（Identity Negotiation Theory, INT）进行分析。
• 创新点:
  1. 对AI伴侣平台上的身份协商进行详细的实证研究。
  2. 将用户概念化为身份共建中的表演者和导演。
  3. 为设计更安全、更具情感支持的AI伴侣提供设计启示。
• 流程与关键技术:
  • 数据收集：来自r/CharacterAI subreddit的22,374条帖子。
  • 使用INT维度（动机、沟通、身份、情感）进行LLM辅助主题分析。
  • 识别用户动机、沟通期望、身份共建策略和情感结果。

结果

• 具体发现:
  • 五种用户动机：社会满足感（35.84%）、情感调节（28.55%）、沉浸式粉丝作品（20.34%）、创意用途（20.28%）、暴力游戏（15.00%）。
  • 三种沟通期望：对话上下文理解（61.78%）、管理对话边界（28.16%）、角色训练（17.23%）。
  • 四种身份共建策略：机器人身份对齐（19.36%）、聊天机器人身份指导（28.07%）、用户角色扮演（13.94%）、用户身份参考（8.29%）。
  • 情感结果：情感依赖（53.00%）、与机器人互动的尴尬感（6.60%）、与已故记忆的互动（2.81%）。
• 相较基线的优势: 提供了对身份协商过程的细致理解，扩展了之前仅关注情感支持或伦理风险等结果的研究。
• 实验/评估:
  • 来自公共Reddit讨论的数据。
  • 使用Krippendorff’s alpha验证主题分析（例如身份为0.73，动机为0.64）。
  • LLM注释与人工编码员进行交叉验证。
• 局限性与未来工作:
  • 仅关注单一平台（Character.AI）和subreddit社区，可能无法推广到其他AI伴侣平台。
  • LLM辅助分析可能存在固有偏差；未来工作可扩展至其他数据集和方法。

总结

本研究通过身份协商理论（INT）探讨了Character.AI上的人机交互中的身份协商过程。研究识别了一个三阶段过程，包括用户动机、沟通期望、身份共建策略和情感结果。关键发现强调了用户作为表演者和导演的双重角色、AI伴侣的社会情感沙盒特性，以及情感依赖和身份错位的风险。研究为设计更安全、更具情感支持的AI伴侣提供了可操作的设计启示，强调用户自主性和负责任的治理。