构建未来社会集合体：AI融入社会生活对个体和人际关系的挑战

文献标题

Futuring Social Assemblages: How Enmeshing AIs into Social Life Challenges the Individual and the Interpersonal

出版信息

• 主题领域: 人工智能融入人类社会生活及其对人际动态和个人身份的影响。
• 关键词: 社会人工智能、人机交互、以用户为中心的设计、人际伦理、代理权、隐私、身份、未来设计、共同适应、关系设计。

背景与问题

• 问题/挑战: 当前嵌入社会情境的人工智能系统通常优先考虑即时用户体验，而忽视了对人际关系、隐私和个人身份的长期影响。以用户为中心的设计范式未能充分考虑更广泛的社会动态和伦理问题。
• 重要性: 随着人工智能深度嵌入人类社会生活，它有可能重塑人际关系、用户代理权和社会规范。理解这些转变对于设计符合核心人类价值观的系统至关重要。
• 动机与相关工作: 先前研究主要探讨了人工智能在任务导向场景中的作用及其对社会互动的即时影响，但对其对人类社会性的长期影响知之甚少。本文基于人机共同适应理论和未来设计方法，填补这一研究空白。

解决方案

• 提出的方法: 通过结合参与式设计和未来设计方法的三阶段设计研究，探索人工智能融入数字社会互动及其影响。
• 创新点:
  1. 识别人工智能介导的社会互动中的四个核心张力：真实性、隐私、代理权和量化。
  2. 引入一个二维设计空间，涵盖关系形成的循环过程和人工智能的社会能力水平。
  3. 倡导从以用户为中心的设计范式转向关系设计和挑衅性设计，以应对长期的社会和伦理后果。
  4. 提供关于人工智能如何重塑人际动态和个人身份的实证见解。
• 流程和关键技术:
  1. 第一阶段：与12名参与者进行创意工作坊，探索体验并设想人工智能支持的社会互动。
  2. 第二阶段：基于二维设计空间创建15个未来设计故事板。
  3. 第三阶段：与18名参与者进行访谈，收集对未来人机社会组合的反应和见解。

结果

• 具体发现:
  • 人工智能介导的社会互动可能削弱真实性，引发非主要用户的隐私问题，并降低个人代理权。
  • 人工智能对社会性的量化会引发焦虑，并与人类价值观不符。
  • 参与者对人工智能捕捉人类社会性细微差别的能力持怀疑态度。
• 相较基线的优势: 本研究超越了以即时效用为重点的研究，关注人工智能在社会情境中的长期和关系影响。
• 实验/评估:
  • 参与者：24名具有技术背景的在线研究生。
  • 方法：半结构化访谈、主题分析和未来设计故事板。
  • 指标：用户感知、担忧和未来设想的定性见解。
• 局限性与未来工作:
  • 参与者群体单一（计算机科学领域的在线研究生）。
  • 研究范围局限于职业和教育社会情境。
  • 未来设计的性质限制了现实世界的适用性。
  • 文化特异性偏向西方规范；未来研究应包括多样化的人群和情境。

总结

本研究探讨了人工智能融入人类社会生活的过程，揭示了真实性、隐私、代理权和社会性量化等关键张力。通过三阶段设计研究，作者指出当前以用户为中心的范式的风险，并提出转向关系设计和挑衅性设计的必要性。研究结果强调在人工智能设计中考虑更广泛的人际动态和伦理问题的重要性。尽管受限于未来设计的性质和参与者的背景，研究为人机社会组合的变革潜力提供了宝贵见解，并为未来探索提供了框架。