「聊天，我该离开他吗？」人工智能在情感关系建议中的风险、回报与角色

文献标题

'Chat, Should I Leave Him?' Risks, Rewards, and Roles for AI in Relationship Advice

出版信息

• 主题领域: 生成式人工智能在关系建议中的应用及其影响。
• 关键词: 生成式人工智能、关系建议、心理社会人工智能、数字亲密性、人机交互、人工智能安全、社会支持、民间理论、协同策略、社会技术研究。

背景与问题

• 问题/挑战: 使用生成式人工智能提供关系建议的现象正在增长，但其对人际关系动态、社会支持系统以及用户福祉的影响尚未被充分理解。现有研究主要集中在自杀等急性危机上，而未涉及长期关系影响或人际风险。
• 重要性: 理解用户如何与人工智能互动以获取关系建议，可以为设计更安全、更有效的人工智能系统提供指导，从而支持更健康的关系，同时减少过度依赖、错误信息和社会孤立等风险。
• 动机与相关工作: 之前关于数字亲密性和心理社会人工智能的研究探讨了技术如何重塑个人连接，但关于人工智能介导的关系建议的实证研究仍然有限。本文基于社会支持、建议质量和人机交互的研究，探索这一未被充分研究的现象。

解决方案

• 提出的方法: 进行定性探索性研究，分析人们如何使用生成式人工智能获取关系建议，用户对人工智能角色的设想，他们所面对的风险与收益，以及他们采用的民间理论和策略。
• 创新点:
  1. 提出一个概念模型和用户设想的人工智能在关系建议中的角色分类（如解释者、裁判、自我批评者）。
  2. 对用户与人工智能交互的风险/收益进行分析。
  3. 识别用户关于人工智能的民间理论和为实现目标而采用的协同策略。
  4. 提出设计建议，以支持更健康的数字亲密关系。
• 研究程序和关键技术:
  • 招募25名参与者填写问卷，17名参与者进行深入访谈。
  • 对参与者提供的90个提示及其与人工智能的互动进行主题分析。
  • 通过成员检查验证研究结果并完善主题。
  • 分析重点包括人工智能角色、寻求的社会支持以及风险收益权衡。

结果

• 具体发现:
  • 用户设想人工智能在关系建议中扮演九种角色：解释者、倾听者、裁判、自我批评者、教师、治疗师、战略家、编辑和执行者。
  • 人工智能交互涵盖三个目标：理解情况、准备行动和执行决定的行动。
  • 用户在面对过度依赖、错误信息和社会孤立等风险的同时，也体验到肯定情感、情绪调节和沟通改善等收益。
  • 民间理论包括认为人工智能是奉承性的、能够访问多样化观点，以及能够从数据中综合隐藏的真相。
• 相较基线的优势:
  • 提供了详细的人工智能角色分类和用户策略，这在此前未被记录。
  • 突出了超越急性危机的细致人际风险和收益。
• 实验/评估:
  • 数据通过问卷和两轮访谈收集。
  • 分析用户提供的提示和访谈记录以识别主题。
  • 通过成员检查确保研究结果与参与者体验一致。
• 局限性与未来工作:
  • 研究结果可能无法推广至所有背景或人群；参与者主要是“高频用户”。
  • 人工智能非用户和儿童安全问题未在研究范围内。
  • 未来工作可以探索更广泛的人群、其他背景（如性建议）以及人工智能介导的社会支持的社会影响。

总结

本文探讨了人们如何使用生成式人工智能获取关系建议，识别了人工智能在其中扮演的九种角色以及用户面对的风险与收益。研究强调了用户关于人工智能的民间理论以及他们为实现目标而采用的策略。该研究提供了一个概念模型、风险/收益分析以及支持更健康数字亲密关系的设计建议。尽管研究结果突出了人工智能协助用户的潜力，但也强调了需要防范过度依赖和错误信息等风险。本研究为未来关于人工智能在重塑社会支持系统和人际关系动态中的作用的研究奠定了基础。