「请不要杀死唯一让人感觉像人的模型」: 理解 #Keep4o 反对运动

文献标题

"Please, don’t kill the only model that still feels human": Understanding the #Keep4o Backlash

出版信息

• 主题领域: 人工智能模型过渡中的社会技术冲突。
• 关键词: AI陪伴、平台治理、用户抗议、拟人化、选择剥夺、关系依赖、工具性依赖、生成式AI、社会技术系统、用户自主性。

背景与问题

• 问题/挑战: 快速的人工智能模型更新常常忽视用户对特定模型的情感和专业依赖，当模型在没有用户选择或同意的情况下被废弃时，会引发强烈反对。
• 重要性: 理解这些冲突对于设计能够平衡技术进步与用户自主性及情感需求的人工智能系统至关重要，尤其是在人工智能深度融入日常生活的背景下。
• 动机与相关研究: 先前研究记录了人工智能系统中的拟人化现象以及伴侣应用关闭时用户的悲伤情绪，但对于通用人工智能服务中移除特定模型引发的反对现象知之甚少。本文通过分析#Keep4o运动填补了这一研究空白。

解决方案

• 提出的方法: 对#Keep4o反对运动进行混合方法研究，结合对1,482条社交媒体帖子进行主题分析和抗议升级机制的定量分析。
• 创新点:
  1. 识别用户抵制的双重驱动因素：工具性依赖和关系依赖。
  2. 展示强制性剥夺用户选择如何催生基于权利的抗议。
  3. 提供实证证据，链接人工智能模型过渡与用户自主性及情感纽带的社会技术冲突。
• 研究流程与关键技术:
  • 数据收集：检索#Keep4o运动高峰期（2025年8月6日至14日）X平台（原Twitter）上的相关帖子。
  • 主题分析：通过归纳编码识别工具性和关系依赖模式。
  • 定量分析：使用词汇表编码和统计测量测试选择剥夺强度与抗议框架之间的关联。

研究结果

• 具体发现:
  • 41.2%的帖子表达了不满，其中27%反映了关系依赖，13%体现了工具性依赖。
  • 选择剥夺与基于权利的抗议选择性相关（严格剥夺的风险比RR=2.05）。
  • 强制性语言触发了基于权利抗议的阈值式增加（高强度剥夺下基于权利抗议的比例为51.6%）。
• 相较基线的优势: 本研究通过将人工智能模型过渡与集体抵制机制联系起来，扩展了现有研究，强调了用户选择在缓解反对中的作用。
• 实验/评估:
  • 数据集: 来自X平台的1,482条英文帖子。
  • 评估指标: 在不同选择剥夺水平下抗议框架的流行率、风险比和效应量。
• 局限性与未来研究:
  • 仅限于九天时间窗口内X平台上的英文帖子。
  • 社交媒体话语可能放大修辞表达。
  • 未来研究应探索更长时间跨度、其他平台以及非英语社区。

总结

本研究调查了针对OpenAI废弃GPT-4o的#Keep4o反对运动，揭示了用户对模型的工具性依赖和关系依赖驱动的抵制行为。定量分析显示，强制性剥夺用户选择加剧了基于权利的抗议，突出了人工智能模型过渡中固有的社会技术冲突。研究结果强调了平台治理需要尊重用户自主性和情感纽带，并提出了设计策略，例如遗留访问和生命周期终结路径，以在人工智能更新过程中减少用户伤害。