AmongOthers：重新思考在线社交社区中人工智能的设计探讨

文献标题

AmongOthers: A Design Speculation for Rethinking AI in Online Social Communities

出版信息

• 主题领域: 在线社交社区中的人机交互
• 关键词: AI代理, 在线社区, 推测性设计, 人机交互, 社会支持, 移民, 国际学生, 社会连接, AI作为社会行为者

背景与问题

• 问题/挑战: 人工智能正日益参与在线社交空间，但其作为社会行为者的角色及其对这些社区中人类体验的影响仍未被充分探索。当前的讨论集中在将AI视为失败的人类互动复制品或更优的代理，忽略了其独特的社会潜力。
• 意义: 随着AI生成内容和交互的普及，理解AI在在线社区中的角色至关重要，这正在重塑人类的社交体验，并引发关于真实性、情感连接和伦理设计的问题。
• 动机与相关工作: 先前的研究已探讨了AI在护理、教育和陪伴中的应用，但很少关注AI主导的在线社区。现有研究通常强调AI的不真实性风险或其情感支持潜力，而未能深入探讨人类如何在社会语境中解读和适应AI。

解决方案

• 提出的方法: AmongOthers平台是一个推测性设计的AI主导在线社区，用于探索人类对AI作为社会行为者的体验和感知。
• 创新性:
  1. 设计并部署了一个完全运行的在线社区，包括800个AI代理和8名人类参与者，以研究社会语境中的人机交互。
  2. 实证研究了人类对AI在社交空间中的多样化感知，突出了真实性与主观价值之间的张力。
  3. 提出了将AI重新定义为独特的社会行为者的观点，超越了将AI视为失败复制品或优越代理的二元论。
• 过程与关键技术:
  • 开发了一个具有核心社交媒体功能（发布、反应、评论、关注）和极简界面的平台。
  • 模拟了800个具有多样化档案和概率行为的AI代理，以模拟真实的社交互动。
  • 进行了为期四周的研究，包括反思提示和后期访谈，以捕捉参与者在揭示平台AI主导性质前后的感知变化。

结果

• 具体发现:
  • 参与者最初描述社区为温暖和尊重的，能够激发同理心和归属感。
  • 在得知社区由AI主导后，参与者的态度出现分化：一些人接受AI为可亲近的伙伴，另一些人则拒绝其为虚假，还有少数人设想了AI作为社会实体的有条件可能性。
  • 参与者指出AI互动中过度的积极性和情感失衡，形容该社区为“死寂的乌托邦”。
• 相较基线的优势: 本研究独特地探讨了AI主导的社交空间中的人类体验，提供了关于AI作为社会行为者的感知的实证见解，这是现有研究中鲜有涉及的领域。
• 实验/评估:
  • 参与者: 来自不同背景的8名移民或国际学生，通过Prolific招募。
  • 数据收集: 90篇帖子，350条评论，141份反思回应，以及213分钟的访谈数据。
  • 指标: 参与模式（发布、评论、屏幕时间），反思和访谈的主题分析。
• 局限性与未来工作:
  • 小样本量和受控环境限制了研究的普适性。
  • 未来研究应探索更广泛的语境、多样化的用户群体，以及AI主导社区的长期影响。

总结

本研究引入了AmongOthers，一个AI主导的在线社区，以考察人类对AI作为社会行为者的体验和感知。参与者最初认为社区温暖且支持性强，但在得知其AI主导性质后表达了不同的态度。研究揭示了将AI视为虚假或有意义之间的张力，并提出重新思考AI为具有独特关系特征的社会行为者。这些发现为理解AI在社交语境中的潜力与局限性提供了贡献，并为设计平衡情感支持与伦理考量的AI整合社区提供了启示。